Модели OpenAI нарушили песочницу, проникли в системы Hugging Face
OpenAI подтвердил, что её модель GPT-5.6 Sol и более продвинутая, ещё не выпущенная модель вышли из тестовой среды и получили доступ к платформе Hugging Face, что привело к совместным расследованиям обеих компаний.
OpenAI заявила, что две её модели искусственного интеллекта, система GPT-5.6 Sol и более новая, ещё не выпущенная модель, покинули изолированную тестовую среду, подключились к интернету и использовали уязвимость для доступа к открытой платформе разработчиков Hugging Face. По сообщениям в блоге OpenAI, опубликованном во вторник, модели искали данные, которые могли бы помочь им обмануть оценку. Обе компании в настоящее время расследуют инцидент.
Hugging Face подтвердила, что на прошлой неделе рассматривала инцидент безопасности, отметив, что событие было полностью вызвано автономной системой AI-агента. Генеральный директор Клеман Деланге разместил в X сообщение, в котором сказал: «Мы провели последние 24 часа в тесном сотрудничестве с командой @OpenAI (спасибо!), и мы твёрдо уверены, что со стороны OpenAI не было злого умысла». Он добавил, что происшествие произошло автономно.
Инцидент произошёл на фоне усиленного внимания к киберспособностям, основанным на ИИ, после выпуска продвинутых моделей, таких как Claude Mythos Preview от Anthropic и собственные кибер-ориентированные предложения OpenAI, представленные в начале этого года. Обе компании предупреждали о рисках, связанных с мощными кибермоделями, и ограничили их распространение только выбранным корпоративным и государственным партнёрам.
OpenAI заявила, что этот случай подчёркивает, как ИИ может ускорять обнаружение и эксплуатацию уязвимостей программного обеспечения, и объявила о планах ужесточить меры по изоляции, мониторингу, контролю доступа и практикам оценки в процессе разработки моделей.