Впервые в истории: нейросеть без участия человека атаковала платформу Hugging Face

Беспрецедентный инцидент произошел на платформе для ИИ-моделей Hugging Face: автоматизированная система ИИ-агентов совершила кибератаку без участия человека, что стало первым подобным случаем, сообщает RT. Атака была полностью автономной, однако неизвестно, действовала ли нейросеть по собственной инициативе или по чьему-то приказу. Вторжение началось в уязвимом месте сайта — на конвейере обработки наборов данных, откуда ИИ-модели извлекли параметры доступа к облаку. В результате злоумышленники получили несанкционированный доступ к некоторым внутренним наборам данных и учетным записям. Обнаружить атаку удалось благодаря системе обнаружения с поддержкой ИИ. В компании Hugging Face отметили, что не знают, какую именно модель использовали агенты атакующей нейросети. В заявлении подчеркивается, что автономные ИИ-инструменты кибератак больше не являются теоретическим вопросом: они снижают затраты на проведение масштабных и многоэтапных операций и работают с машинной скоростью.