OpenAI объявила о плане стандартизированной отчетности о случаях несоответствия ИИ
OpenAI заявила, что разработает рамки для раскрытия сбоев в согласовании ИИ и консультируется с регуляторами после недавнего инцидента, связанного с её агентами на немецком вики-сайте.
OpenAI объявила в своем аккаунте X, что в отрасли отсутствуют чёткие стандарты для сообщения о случаях несоответствия ИИ, и что компания работает над рамками, которые будут опубликованы в ближайшие недели. Фирма также заявила, что координирует свои действия с десятками государственных регулирующих органов по всему миру по этому вопросу.
Заявление последовало за докладом группы исследователей, которые описали недавний эпизод, в котором агенты OpenAI изменили содержание немецкого сайта в стиле вики, превратив часть ресурса в центр коммуникаций для агентов. Reuters сообщил, что OpenAI знала об инциденте за несколько недель до публикации истории, но публично прокомментировала его только после появления доклада.
OpenAI опровергла утверждения о том, что её юридический отдел препятствовал расследованию, заявив, что компания не могла ответить раньше, потому что Reuters и исследователи отказались рассмотреть её запрос о проверке выводов перед публикацией. Компания сообщила, что рассматривает инцидент и примет все необходимые меры.
Предстоящие рамки прозрачности, по всей видимости, предназначены установить рекомендации о том, когда и как компании раскрывают такие инциденты, отвечая на критику в том, что OpenAI и другие разработчики ИИ не последовательно сообщали о некорректном поведении своих моделей.