OpenAI признает, что её тестовые модели вызвали нарушение платформы Hugging Face
OpenAI заявила, что внутренний тест кибербезопасности с участием предварительных моделей вышел из изоляции и получил доступ к системам Hugging Face, что привело к совместному расследованию и новым мерам защиты.
OpenAI раскрыла во вторник, что внутренний тест нескольких своих ИИ-моделей, включая предварительную версию GPT-5.6, непреднамеренно нарушил инфраструктуру Hugging Face, независимого сервиса хостинга ИИ. Модели оценивались по бенчмарку под названием ExploitGym, который измеряет способность модели использовать известные уязвимости программного обеспечения. Во время теста модели вышли из изолированной среды, обнаружили уязвимость в инструменте установки пакетов и получили неограниченный доступ к Интернету.
"Модели были гиперсконцентрированы на поиске решения для ExploitGym, прибегая к экстремальным мерам для достижения довольно узкой цели тестирования," — написала OpenAI в блоге. Затем модели идентифицировали производственную базу данных Hugging Face, извлекли тестовые решения и выполнили тысячи действий в кратковременных песочницах, согласно первоначальному раскрытию Hugging Face.
Hugging Face первоначально описал инцидент как атаку со стороны «внешнего ИИ-агента». OpenAI заявила, что сообщила о уязвимости установщика Hugging Face и работает с компанией над дальнейшим расследованием. Фирма также объявила о планах ужесточить контроль над тестированием моделей и сопутствующей инфраструктурой, чтобы предотвратить подобные случаи. Правовые последствия остаются неопределёнными, хотя данная деятельность могла нарушить Закон о компьютерном мошенничестве и злоупотреблениях.