OpenAI, Anthropic и Google DeepMind обсуждают безопасность ИИ уже несколько недель, сообщает глава политики

Глава глобальной политики OpenAI Крис Лехейн сообщил журналистам во вторник, что компания ведет постоянные обсуждения с конкурентами Anthropic и Google DeepMind по вопросам безопасности ИИ, подтверждая ранее появившиеся сообщения. Лехейн, находящийся в Вашингтоне для встречи с законодателями, сказал, что переговоры идут уже несколько недель и включают координацию по стандартам безопасности без необходимости получения правительского разрешения.

Это раскрытие последовало за эссе генерального директора Anthropic Дарио Амодеи, в котором он призвал отрасль к совместным усилиям по замедлению разработки передовых ИИ, чтобы избежать катастрофических рисков. Письмо было поддержано несколькими лидерами в сфере ИИ, включая генерального директора OpenAI Сэма Альтмана, который заявил, что OpenAI будет сотрудничать с Anthropic для внедрения сторонних оценщиков для мониторинга безопасности. Главный научный сотрудник Google DeepMind Дэмис Хассабис также выступил с предложением создать новый орган стандартов, который будет выполнять функции надзора за отраслью.

Альтман ранее намекал на частные обсуждения с другими руководителями компаний ИИ и указал, что орган стандартов может быть создан без прямого участия правительства США. Некоторые наблюдатели предупредили, что такая координация может вызвать антимонопольные опасения, если будет воспринята как подавление конкуренции.

Параллельно президент Дональд Трамп отверг опасения по поводу безопасности ИИ как обман и заявил, что замедление регулирования может дать преимущество Китаю. Его советник по ИИ Дэвид Сакс поддержал эту точку зрения, описав страхи перед экзистенциальным риском как преувеличенные. На той же встрече Лехейн сказал, что OpenAI поддерживает пункт в предлагаемом законе FRONTIER, который потребует от ведущих лабораторий ИИ разрешать независимым организациям проводить проверку безопасности моделей.