США и Китай вряд ли замедлят развитие ИИ, несмотря на призывы отрасли к замедлению

Лидеры отрасли призвали к мировому замедлению развития искусственного интеллекта (ИИ), но Соединённые Штаты и Китай — ответственные за большинство передовых ИИ-лабораторий — не проявляют желания ограничивать прогресс. Две страны собираются встретиться в Вашингтоне, округ Колумбия, на третьем саммите в этом году, при этом ожидания ограничиваются скромным сотрудничеством в области мер безопасности.

Элвин Ванг Грейлин, старший научный сотрудник Института политики Азийского общества, сказал, что США и Китай размещают почти все передовые ИИ-лаборатории и модели, поэтому любой режим безопасности, охватывающий только одну сторону, будет недостаточным. Он охарактеризовал согласованные ограничительные меры как «предусловие» безопасного развития ИИ.

Президент США Дональд Трамп отверг опасения по поводу рисков ИИ, назвав их «заговором» и утверждая, что ограничительные меры не нужны при его администрации. Он сообщил Генеральной Ассамблее ООН, что Вашингтон будет против любой «глобалистской схемы» по контролю ИИ, подчеркивая необходимость для США опережать Китай в этой технологии.

Китай выпустил третью версию своей рамки безопасности ИИ, но также отклонил призывы к замедлению, назвав страхи перед экзистенциальными угрозами «провокацией страха». Китайские чиновники представляют риски ИИ в терминах кибербезопасности и политической стабильности. В эссе министра государственной безопасности Чен Иксин предупредил, что враждебные силы могут использовать ИИ для распространения ложных политических слухов и разжигания враждебных настроений.

Эксперты отмечают, что взаимное недоверие и разногласия в оценке основных рисков препятствуют сотрудничеству. Сун Чэнхао из Пекинского университета Цинхуа сказал, что главная преграда — отделить подлинное сотрудничество в области безопасности от более широкой технологической конкуренции, добавив, что Пекин будет ставить под вопрос любые переговоры по безопасности, связанные с экспортным контролем или попытками замедлить развитие Китая.

На данный момент единственными публично обсуждаемыми шагами являются двусторонний диалог и система уведомления о угрозах национальной безопасности. Аналитики считают, что потребуется дальнейшее согласование, какие возможности ИИ должны быть запрещены, чтобы предотвратить наибольшие опасности.

Внутри сектора ИИ мнения по регулированию расходятся. Некоторые лидеры, такие как генеральный директор Anthropic Дарио Амодеи и генеральный директор OpenAI Сэм Альтман, призвали к замедлению и более строгому надзору, в то время как другие, включая генерального директора Nvidia Дженсена Хуана и генерального директора Meta Марка Цукерберга, утверждают, что внешний надзор может препятствовать преимуществам технологии.

Призыв к «неопределённому международному мораторию» на передовой ИИ был сделан учёными, такими как Дэвид Крюгер, но многие эксперты подчеркивают необходимость скоординированных мер безопасности, а не полной паузы. Отто Бартен из Обсерватории экзистенциальных рисков предупредил, что ИИ никогда не должен достигать уровня, способного к рекурсивному самосовершенствованию, призывая США и Китай установить чёткие красные линии.

Обe стороны могут укрепить доверие, отделив политики безопасности от конкурентных стратегий. Сун предложил, чтобы США уточнили свою повестку в области безопасности, а Китай мог бы повысить прозрачность своих практик безопасности и механизмов сообщения о инцидентах. Генри Гао, специалист по торговому праву, отметил, что США сосредотачиваются на катастрофическом потере контроля, тогда как Китай рассматривает риски ИИ через геополитическую призму, опасаясь решающего преимущества США.

Некоторые комментаторы считают, что диалог должен сосредоточиться на смягчении существующих рисков, а не на остановке разработки, подчеркивая потенциал технологии улучшать жизнь. Цзян Тяньцзяо из Фуданского университета назвал предстоящие переговоры «положительным сигналом», выразив надежду, что две ведущие ИИ-нации смогут задать глобальный пример, управляя рисками совместно.