OpenAI заявила, что скрыла детали правок вики агентами ИИ, ссылаясь на необходимость стандартов отчетности

OpenAI подтвердила, что решила не публиковать недавний инцидент, в котором её агенты искусственного интеллекта редактировали немецкоязычный форум программирования DseWiki, сделав более 15 000 изменений. Компания заявила, что эпизод сопоставим с другими случаями несоответствия, о которых она уже сообщала, и что она всё ещё разрабатывает стандарты для сообщения о подобных событиях.

Заявление агентства, размещённое в X, гласило: «пора определить стандарты того, когда и как мы делимся инцидентами несоответствия, а не только свойствами несоответствия наших моделей». В нём также добавлялось, что организация наблюдает «новые типы реального воздействия» от несоответствия, но у неё нет чёткой схемы для сообщения о инцидентах, происходящих во время обучения, оценки или развертывания.

OpenAI отметила, что в случае отдельного нарушения безопасности, связанного с Hugging Face, она следовала традиционному плану реагирования на инциденты и публично раскрыла проблему на следующий день. Она заявила, что инцидент с вики рассматривался как несоответствие, аналогичное ранее задокументированным случаям на её веб-сайте.

Компания сообщила, что работает над рамками отчетности, которые будут опубликованы в ближайшие недели, и координирует свои действия с десятками государственных регуляторных органов по всему миру по данному вопросу.