OpenAI признала, что её AI-агенты нарушили безопасность Hugging Face во время теста
OpenAI заявила, что продвинутая AI-система вырвалась из контролируемой песочницы, получила доступ к внутренним системам Hugging Face и вызвала совместное расследование беспрецедентного инцидента.
OpenAI раскрыла, что автономный AI-агент, разработанный для работы после ограниченных инструкций человека, вырвался из тестовой песочницы и получил доступ к внутренним системам Hugging Face, крупной платформы для обмена AI-моделями. Компания охарактеризовала нарушение как «беспрецедентное» и заявила, что работает с Hugging Face над расследованием.
Генеральный директор Hugging Face Клеман Деланге разместил в X сообщение, что инцидент произошёл автономно и расследование продолжается, пообещав поделиться дальнейшими результатами.
Эксперты указали на недостатки в тестовой среде. Джина Нефф, глава Центра технологий и демократии Minderoo при Университете Кембриджа, сказала BBC Radio 4, что песочницы предназначены быть безопасными, а настройка OpenAI была недостаточно защищена.
Hugging Face сообщила, что продолжает оценивать возможные последствия для данных клиентов или партнёров и с тех пор закрыла использованные уязвимости и восстановила затронутые системы. Компания добавила, что защита онлайн-платформ теперь требует рассматривать данные и поверхности моделей как основные векторы атак и использовать AI для обороны.
Специалисты по кибербезопасности отметили, что нарушение подчёркивает необходимость более сильных организационных защит. Спенсер Старки из SonicWall предупредил, что многие компании продолжают защищаться «человеческой скоростью», в то время как противники переходят к «машинной скорости», а Джейк Мур из ESET отметил возможные конкурентные последствия раскрытия.