Лидеры ИИ призывают ООН принять глобальные стандарты рисков, американский чиновник выступает против нового управления

Генеральные директора OpenAI, Anthropic и Hugging Face сказали делегатам Организации Объединённых Наций, что быстрый темп развития искусственного интеллекта создает общественные риски, требующие скоординированных международных действий. Сэм Альтман призвал к созданию «национальных и международных» стандартов измерения возможностей ИИ, оценки рисков, внедрения мер предосторожности и обеспечения человеческого надзора. Он также выступил за быстрые протоколы сообщения о инцидентах, чтобы неудачи могли быть поделены глобально.

Соучредитель Anthropic Дарио Амодей, недавно опубликовавший эссе с призывом к замедлению развития ИИ, сказал, что плохо управляемый ИИ может представлять угрозу для человечества и что необходимы более строгие стандарты безопасности. Он подчеркнул, что управление этими рисками является отраслевой, глобальной ответственностью.

Генеральный директор Hugging Face Клеман Деланге поддержал призыв к общим критериям оценки, добавив, что скоординированные стандарты помогут странам сравнивать доказательства и проверять соблюдение.

В отличие от них, Майкл Кратсиос, старший технологический советник Соединённых Штатов, сказал на форуме, что хотя развитие ИИ ускоряется и создает риски, эти опасения не оправдывают приостановку прогресса или создание новых глобальных структур управления. Он предупредил, что международный диалог не должен скатываться к глобальному регулированию.

Различные позиции подчёркивают раскол между ведущими компаниями в сфере ИИ, стремящимися к скоординированным рамкам безопасности, и американским чиновником, подчеркивающим конкурентное преимущество и ограниченное вмешательство регуляторов.