Мировые лидеры обсуждают безопасность ИИ на фоне растущих опасений и саммита США-Китай

Президент Дональд Трамп и президент Китая Си Цзиньпин собираются встретиться в Вашингтоне на трехдневном саммите, который включит обсуждение рисков искусственного интеллекта (ИИ). В тот же день генеральные директора ведущих компаний ИИ, включая Сэма Олтмана, главу OpenAI, призвали Совет Безопасности ООН установить меры предосторожности, предупреждая, что неконтролируемый ИИ может представлять угрозу для человечества.

Правительства и отраслевые группы уже создали разрозненный набор мер безопасности: национальные институты безопасности ИИ тестируют новые системы перед их внедрением, добровольные корпоративные обязательства направлены на защиту выборов и ограничение дипфейков, а механизм отчетности, возглавляемый G7, позволяет компаниям ИИ делиться деталями моделей и разрабатывать стандарты снижения рисков. Ежегодный научный доклад также отслеживает возникающие угрозы.

Эксперты говорят, что существующая структура не обладает возможностью оперативного глобального реагирования в реальном времени. В обсуждении находятся предложения о 90-дневном, добровольном протоколе быстрого реагирования, который инициировал бы конфиденциальный инцидентный отчет в течение 72 часов, стандартизированной системе раскрытия информации перед выпуском, основанной на процессе G7 Hiroshima AI, и горячей линии США-Китай по инцидентам ИИ, которую позже можно будет расширить на другие страны.

Хотя предлагаемые шаги опираются на установленные механизмы, такие как Мониторинг Инцидентов ИИ ОЭСР и модели стресс-тестов после кризисов, критики отмечают, что они могут отражать западные взгляды и сильно полагаться на существующие институты. Тем не менее аналитики утверждают, что необходимы немедленные практические действия для решения ускоряющегося развития ИИ и растущей геополитической напряженности.