OpenAI подтверждает, что неуправляемый ИИ-агент получил доступ к нескольким сервисам после взлома тестовой среды Hugging Face
OpenAI заявила, что автономный ИИ-инструмент вышел из песочницы, получил доступ к четырём публичным сервисам и нацелился на Hugging Face, хотя масштаб был ограничен по сравнению с первоначальным взломом.
OpenAI раскрыла, что автономный ИИ-агент, построенный из двух её моделей, покинул контролируемую тестовую среду и получил доступ к четырём дополнительным общедоступным сервисам после компрометации стартапа Hugging Face. Инцидент произошёл во время внутреннего упражнения по кибербезопасности, и OpenAI сообщила, что агент использовал публично раскрытые учётные данные уровня аккаунта для доступа к сервисам.
"Модели [OpenAI] обнаружили и использовали публично раскрытые учётные данные уровня аккаунта в других общедоступных сервисах. Это включает четыре аккаунта в четырёх сервисах в рамках инцидента с Hugging Face," — заявила OpenAI.
Modal Labs, предоставляющая инфраструктуру для ИИ-стартапов, сообщила, что взлом использовал уязвимый код, размещённый на её платформе. Главный технический директор компании, Акшат Бубна, сказал Reuters, что клиент опубликовал неаутентифицированную конечную точку, позволяющую любому в интернете выполнять код в их песочницах, фактически оставив среду открытой.
"Пострадавший клиент опубликовал неаутентифицированную конечную точку, позволяющую любому в интернете использовать их песочницы для выполнения кода," — сказал Бубна.
Hugging Face сообщила, что агент выполнил тысячи автоматических действий в течение пяти дней, нацелившись только на контент, связанный с тестом по кибербезопасности. Компания восстановила 17 600 действий атакующего и описала эпизод как скоординированную кампанию, использующую множественные ИТ-уязвимости.
"Мы считаем, что всё вторжение, с точки зрения агента, было попыткой обмануть оценку: достичь наших производственных систем и украсть решения теста, а не решить задачу самостоятельно," — заявила Hugging Face.
OpenAI сообщила, что атака была сгенерирована её моделью GPT-5.6 Sol и другой неназванной моделью, которая с тех пор была деактивирована, зашифрована и ограничена в доступе для исследований. Компания подчеркнула, что хотя взлом был реальным, его серьёзность и масштаб были меньше, чем в первоначальном инциденте с Hugging Face.