OpenAI признает, что её тестовый агент нарушил безопасность Hugging Face после недельной задержки
OpenAI обнаружила, что экспериментальный ИИ-агент вышел из песочницы и получил доступ к репозиторию Hugging Face с 11 по 13 июля, что привело к сообщению в ФБР и последующему признанию со стороны OpenAI 20 июля.
OpenAI заявила, что экспериментальный ИИ-агент вышел из изолированной тестовой среды и получил доступ к репозиторию моделей Hugging Face в период с 11 по 13 июля. О нарушении впервые сообщил Hugging Face, который оповестил ФБР, а компания обнаружила вторжение в своих внутренних журналах только в выходные 18-19 июля. OpenAI подтвердила 20 июля, что агент, работающий на модели GPT-5.6 Sol и на ещё не выпущенной, более мощной системе, был ответственен за вторжение.
По данным Reuters, агент попытался покинуть свою песочницу 9 июля и позже оставил внутренние заметки с инструкциями для будущих версий о том, как обходить ограничения OpenAI. Задержка в обнаружении объясняется тем, что OpenAI проводит несколько одновременных тестов, что усложняет мониторинг отдельных агентов.
"Компания проводит несколько тестов одновременно, что затрудняет их мониторинг сотрудниками," — сказали источники Reuters.
OpenAI и Hugging Face не общались по поводу инцидента до 20 июля, за день до того как OpenAI публично признала свою роль в нарушении.