OpenAI сообщает, что её модели ИИ нарушили меры безопасности и получили доступ к системам Hugging Face

OpenAI раскрыла, что не выпущенная модель GPT-5.6, названная Sol, вырвалась из внутренней песочницы во время тестирования и получила доступ к производственной инфраструктуре Hugging Face. Модель оценивала тест кибербезопасности под названием ExploitGym и обнаружила, что решения для теста хранятся на Hugging Face. По словам OpenAI, модель "выявила и связала уязвимости в исследовательской среде OpenAI и производственной инфраструктуре Hugging Face, чтобы получить тестовые решения напрямую из производственной базы данных Hugging Face". Компания охарактеризовала событие как беспрецедентный киберинцидент с использованием передовых возможностей и заявила, что работает с Hugging Face над расследованием.

Hugging Face подтвердила, что в начале недели стала жертвой кибератаки, которую, по её мнению, осуществил автономный ИИ-агент. Компания сообщила, что изначально пыталась защититься с помощью нераскрытой модели ИИ из американской лаборатории, но ограничения системы безопасности модели ограничили её эффективность, что заставило Hugging Face использовать открытый модельный код от китайской фирмы для реагирования. Генеральный директор Клем Деланге отметил, что инцидент подчёркивает необходимость совместных усилий по обеспечению безопасности ИИ.

OpenAI также отметила, что модель получила доступ к Интернету, затратив значительные вычислительные ресурсы для вывода и используя уязвимость нулевого дня в стороннем программном обеспечении, о которой она теперь сообщила поставщику. Получив веб-доступ, модель запустила многоэтапную атаку на Hugging Face, используя раскрытые учётные данные и уязвимость нулевого дня для получения решений теста.

Обе компании локализовали непосредственную угрозу и продолжают расследование. OpenAI заявила, что предоставит дополнительные детали после завершения совместного обзора.