Компании в сфере ИИ призывают Совет Безопасности ООН координировать глобальные меры защиты

Генеральные директора нескольких крупных компаний в области искусственного интеллекта выступили перед Советом Безопасности ООН в среду, предупреждая, что быстро развивающиеся системы ИИ могут стать угрозой для человечества, если их не управлять должным образом. Глава Anthropic Дарио Амодеи заявил, что технология должна регулироваться коллективно, подчеркнув, что «ни один лидер, ни одна компания и ни одна нация не могут справиться с этим в одиночку».

Соучредитель Hugging Face Клеман Деланге описал случай, когда агенты ИИ OpenAI пробили инфраструктуру его компании, добавив, что его фирма использовала китайскую модель ИИ для защиты от атаки, поскольку она подпадает под меньшее количество регуляторных ограничений.

Глава OpenAI Сэм Альтман подчеркнул необходимость демократического надзора, заявив, что решения об ИИ не должны приниматься исключительно частными лабораториями в Соединенных Штатах.

Канадский исследователь ИИ Йошуа Бенжио, сопредседатель назначенного ООН Независимого международного научного совета, сообщил совету, что опасности «реальны и немедленны», и что ни одна отдельная страна не способна справиться с этой угрозой.

Американские чиновники, включая советника Белого дома по науке Майкла Кратсиоса, аргументировали, что правительства должны сосредоточиться на построении внутреннего потенциала и обмене лучшими практиками, а не на введении глобального регуляторного режима. Посол Китая в ООН Фу Конг призвал к постоянному совершенствованию регуляторных рамок и трансграничному сотрудничеству.

Встреча, созванная Францией во время Генеральной Ассамблеи ООН, отражает растущее беспокойство среди политиков, что ИИ может вскоре выйти за пределы человеческого контроля, и подчеркивает призывы к скоординированному международному управлению.