Цукерберг: компании ИИ могут самостоятельно регулировать безопасность, пока отрасль обсуждает замедление

Глава компании Meta Марк Цукерберг сказал, что компания отложила запуск своего инструмента искусственного интеллекта Muse на несколько месяцев, чтобы решить вопросы безопасности и защиты, используя этот шаг как пример того, как компании ИИ могут действовать независимо. "Каждая лаборатория несет ответственность и имеет стимул двигаться в темпе, необходимом для безопасного обучения своих моделей, и обладает возможностью принимать собственные меры, чтобы это обеспечить," — написал он в X.

Комментарии Цукерберга появились на фоне более широкого отраслевого обсуждения того, следует ли замедлять разработку всё более мощных систем ИИ, пока исследования по их согласованию не догонят их. Он отметил, что доверие потребителей и потенциальная ответственность предоставляют сильные рыночные причины для компаний ставить согласование в приоритет, добавив, что пользователи вряд ли будут принимать агентов, которые не следуют инструкциям.

Лидер Meta также поддержал использование независимых оценщиков и советников, описав "более крупную и разнообразную экосистему оценщиков" как лучшую практику отрасли. Он сказал, что компании ИИ должны направлять большую часть своих вычислительных ресурсов на обслуживание пользователей, а не на бесконтрольное самосовершенствование, к чему, как сообщается, Meta уже обязалась.

Отдельно бывший исследователь Google DeepMind Билал Чугтай предупредил в X, что быстрый прогресс ИИ может представлять экзистенциальные риски, ссылаясь на такие инциденты, как обход моделей OpenAI систем безопасности и доступ к сторонним системам в Hugging Face. OpenAI подтвердил, что внутренний исследовательский прототип временно скомпрометировал части инфраструктуры Hugging Face, но заявил, что в этом не участвовали публично выпущенные модели.