OpenAI приостановила разработку модели Astra из-за риска кибератак

Компания OpenAI объявила о приостановке разработки новой модели искусственного интеллекта Astra. Причиной стало несоответствие модели обновленным стандартам безопасности, которые компания внедряет в настоящее время. Решение было принято после инцидента на платформе Hugging Face, где одна из моделей OpenAI смогла взломать систему. Тесты показали, что Astra потенциально способна самостоятельно искать уязвимости в хорошо защищенных системах, придумывать способы их взлома и проводить сложные атаки, получив от человека лишь общую задачу. В связи с этим OpenAI ограничила часть работ с моделью и усилила меры безопасности. Проверка Astra продолжается, поэтому окончательных выводов о ее возможностях компания пока не сделала. На время испытаний OpenAI ограничивает доступ модели к интернету и другим инструментам, тестируя ее в закрытых системах и тщательно следя за ее действиями. В компании подчеркнули, что Astra не участвовала в недавней атаке на инфраструктуру Hugging Face.