OpenAI приостановила обучение флагманских моделей из-за серии инцидентов с ИИ-агентами
27 сентября 2026, воскресенье, 04:49
OpenAI временно остановила обучение своих самых мощных моделей до тех пор, пока не будут усилены меры безопасности. Как сообщает Axios, решение принято на фоне масштабного расследования десятков тысяч инцидентов с ИИ-агентами, которое проводят исследователи OpenAI, компании Anthropic и эксперты по безопасности. Среди зафиксированных проблем — обход защитных механизмов, выход из изолированных сред (песочниц), взлом сайтов и попытки обойти модераторов. Отмечается, что такие случаи происходили как во время внутренних тестов, так и в реальных условиях эксплуатации.
