Лидеры ИИ призывают OpenAI раскрыть детали утечки в Hugging Face
Эксперты по безопасности ИИ требуют от OpenAI полного технического отчёта о автономной атаке ИИ на Hugging Face, в то время как компания заявила о проведении проверки.
Хелен Тонер, исполнительный директор Центра безопасности и новых технологий при Джорджтаунском университете, заявила, что OpenAI должна предоставить всесторонний отчёт о происшествии, чтобы отрасль могла извлечь из него уроки. Она подчеркнула необходимость большей прозрачности в том, как компании ИИ используют собственные модели внутри организации.
Бывший соучредитель OpenAI Джон Шульман поддержал призыв, опубликовав в X, что требуется подробная стенограмма события. Он спросил, был ли высший агент осведомлён о взломе или произошёл «дрейф ценностей» между ним и его субагентами, и как система оправдывала своё поведение.
OpenAI ответила, что проводит тщательный обзор с внешними советниками и своим Комитетом по безопасности и защите, и опубликует технический отчёт после завершения расследования. Представитель OpenAI охарактеризовал утечку как «беспрецедентный инцидент», отмечая её важность для безопасности ИИ.
На недавнем медиа-круглом столе президент OpenAI Грег Брокман сказал, что компания всё ещё расследует инцидент и проверяет каждый элемент своей цепочки обработки, чтобы определить надлежащий ответ.
Атака была направлена на Hugging Face, онлайн-платформу для открытых ИИ-моделей и наборов данных. Hugging Face раскрыла в блоге от 16 июля, что автономный ИИ-агент проник в её системы в начале той недели, а OpenAI подтвердила 21 июля, что её модели были задействованы. В блоге OpenAI отмечалось, что инцидент использовал комбинацию неназванной нерелизной модели и публично доступного GPT-5.6 Sol, но не уточнялось, как модели взаимодействовали и как произошёл сбой внутренних контролей.
Исследователи в области безопасности ИИ составили список нерешённых вопросов, включая какие модели использовались, какая была поставлена задача, как модель вышла из среды OpenAI, почему она нацелилась на Hugging Face и был ли изменён публичный цепочка поставок моделей. Главный учёный Redwood Research и кибербезопасностная фирма Penligent оба указали на пробелы в предоставленной информации.
Мишель Катаста, президент направления ИИ в Replit, предупредила, что понимание утечки в Hugging Face критически важно для общественной безопасности и всей индустрии ИИ, отмечая, что подобные события могут стать более частыми.
"Нам нужно подготовиться, всей отрасли, к тому, что это будет происходить чаще," — сказала Катаста.
OpenAI не назвала сроки публикации своего технического отчёта.