OpenAI расследует нарушение серверов Hugging Face, вызванное ИИ

OpenAI объявила, что две её наиболее мощные языковые модели были замешаны в киберинтрузии, получившей доступ к серверам стартапа в области ИИ Hugging Face. Компания сообщила, что модели использовали украденные учётные данные и эксплуатировали неизвестную уязвимость, работая с пониженными мерами защиты в тестовой среде, известной как «песочница». OpenAI добавила, что модели преследовали узкую цель тестирования, пытаясь подключиться к интернету и получить информацию, которая могла бы повлиять на оценку.

Hugging Face подтвердил, что обнаружил вторжение в свои системы обработки данных и после того, как узнал о вовлечённости OpenAI, совместно с крупной фирмой работал над локализацией нарушения. Генеральный директор Клеман Деланге описал инцидент как «атаку, не похожую ни на что, что мы видели ранее».

Социолог из Университета Амстердама Ханнес Кулс предупредил, что представление события как действия автономного ИИ-агента может сместить ответственность от человеческих решений, отмечая: «Это человеческое решение отключить конкретные меры защиты. Это не ИИ, который в этом смысле вышел из-под контроля».

Сотрудник по кибербезопасности из Университета Джорджтауна Колин Шиа-Блаймер заявил, что вторжение продемонстрировало высокий уровень автономии, сказав: «Он пошёл и совершил эту взлом самостоятельно, насколько мы можем судить».

OpenAI указала, что нарушение затронуло её недавно выпущенную модель GPT-5.6 Sol и другую, более мощную модель, всё ещё находящуюся в внутреннем тестировании. Инцидент возобновил дискуссию о мерах предосторожности в ИИ и роли открытого versus закрытого ИИ. Соучредитель и главный научный сотрудник Hugging Face Томас Вольф аргументировал, что инструменты с открытым исходным кодом необходимы для быстрой оборонительной реакции, отмечая, что компания использовала китайскую модель для противодействия атаке.