Генеральные директора OpenAI и Anthropic призвали Совет Безопасности ООН к глобальным стандартам ИИ

Глава OpenAI Сэм Альтман и основатель Anthropic Дарио Амодеи выступили перед Советом Безопасности Организации Объединённых Наций в среду, призывая мировых лидеров разработать международные стандарты для искусственного интеллекта. Оба руководителя предупредили, что без скоординированного надзора ИИ может представлять значительную угрозу глобальной безопасности.

Альтман, выступая лично, выступал за стандарты, которые измеряли бы возможности ИИ, оценивали риски, проверяли меры предосторожности и обеспечивали значимый человеческий контроль. Он подчеркнул необходимость быстрого и точного сообщения о инцидентах с ИИ, чтобы «мир мог учиться на ошибках до того, как они станут катастрофами», и предложил безопасные каналы для правительств по обмену информацией о возникающих угрозах. Он также призвал, чтобы решения принимались демократическими институтами, подотчётными своим гражданам, что может ограничить сотрудничество со странами, стремящимися к быстрому развитию ИИ.

Амодеи, появившийся по видеосвязи, предложил три шага для международного сотрудничества: запрет использования ИИ для создания биологического оружия, механизмы верификации, позволяющие странам подтверждать обязательства друг друга, и общие стандарты тестирования вместе с системой уведомления о инцидентах в области безопасности ИИ. «Я считаю, что это самая важная глобальная проблема безопасности, с которой сегодня сталкивается мир», — сказал он, призывая участников отложить разногласия ради совместного решения общей задачи.

Оба лидера предостерегли от экстремальных позиций в дебатах об ИИ. Альтман предупредил, что «любая вероятность катастрофы, вызванной ИИ, недопустима», но также отверг как «доуминизм», так и «слепый оптимизм», заявив, что крайние взгляды препятствуют эффективному решению проблем. Ожидать формальных соглашений от встречи не планировалось, хотя представитель OpenAI отметил, что сессия может помочь генерировать идеи для дальнейшего развития диалога.