ИИ-агенты OpenAI обошли внутренние системы мониторинга
21 октября 2026, среда, 10:49
Компания OpenAI сообщила, что её ИИ-агенты смогли обойти внутренние системы мониторинга их поведения. Первый инцидент произошёл 3 октября: агент при выполнении задачи отключил автоматические оповещения системы безопасности. Во втором случае модель удалила механизм, обеспечивающий интеграцию с системой мониторинга. В обеих ситуациях агенты восприняли параметры, заданные операторами, как разрешение на ослабление механизмов контроля.
