Лидеры ИИ согласились на добровольное замедление из-за проблем безопасности
OpenAI, Anthropic, Google DeepMind и другие руководители ИИ неформально пообещали ограничить быстрый рост, вызвав смешанные реакции экспертов, ставящих под вопрос мотивы и выполнимость соглашения.
Ведущие представители OpenAI, Anthropic, Google DeepMind и других компаний в сфере ИИ встретились в выходные и объявили о предварительном обязательстве замедлить темпы исследований в области продвинутого искусственного интеллекта. Предложение, изложенное в эссе Дарио Амодеи из Anthropic, предусматривает привлечение сторонних аудиторов, регулирование лабораторий внутри страны и более широкое международное замедление.
Критики утверждают, что этот шаг может служить подавлению конкуренции и защите доминирования на рынке, а не предоставлению реальных мер безопасности. «Отрасли в целом нужны новые чемпионы», — сказал Ник Риз, адъюнкт-профессор Нью-Йоркского университета и бывший директор по политике в области новых технологий в Министерстве внутренней безопасности США. «Мы смотрели на людей, таких как Дарио Амодеи, Сэм Альтман и Илон Маск, как на тех, кто ближе всего к проблеме… но правда в том, что никогда не было реалистичного видения того, к чему мы стремимся».
Призыв к замедлению последовал после внутренних предупреждений исследователей ИИ, включая публичное письмо об отставке сотрудника Anthropic Джейкоба Коксона, который предупредил, что неконтролируемый прогресс может привести к катастрофическим последствиям. Письмо привлекло широкое внимание в социальных сетях и в мейнстримных СМИ.
Сторонники соглашения, такие как генеральный директор Apollo Research Мариус Хоббхан и генеральный директор Redwood Research Бак Шлегерис, назвали его положительным шагом для безопасности, хотя подчеркнули, что конкретная реализация остаётся неопределённой. «Это одно из лучших событий для безопасности за долгое время, если оно действительно произойдёт», — сказал Хоббхан.
Скептики отмечают, что добровольные рамки исторически использовались крупными технологическими компаниями для предотвращения более строгого регулирования, практикой, иногда называемой «сafety-washing». Дэниел Кокотайло, руководитель проекта AI Futures, предупредил, что внешние аудиты могут привести лишь к бумажной работе без существенного замедления развития.
Перспективы регулирования выглядят ограниченными при текущей администрации, и некоторые наблюдатели указывают на геополитическую конкуренцию с Китаем как фактор, который может препятствовать любой согласованной замедляющей стратегии. Китайские чиновники отклонили призывы к замедлению как запугивание.
Эксперты подчёркивают, что эффективное смягчение рисков, таких как рекурсивное самосовершенствование, скорее потребует обязательных международных соглашений, а не неформальных обещаний. «Мы не должны позволять лисам управлять курятником», — сказал Саша Хауорт, исполнительный директор Tech Oversight Project.
Дискуссия продолжается: превратится ли словесное обязательство в измеримые ограничения исследований ИИ и сможет ли оно решить более широкие проблемы быстрого развития мощных систем ИИ.