Бывший исследователь DeepMind предупреждает, что ИИ может представлять экзистенциальную угрозу

Бывший исследователь компании DeepMind, принадлежащей Google, Билал Чугтай, написал в X и LinkedIn, что считает, что искусственный интеллект может стать способным вызвать исчезновение человечества, если его развитие будет продолжаться без контроля. Он охарактеризовал темпы прогресса с начала 2022 года как «поразительные» и предупредил, что всё более автономные AI-агенты могут вскоре превзойти человеческий контроль.

"Я искренне верю, что ИИ имеет потенциал уничтожить всех нас, и что у нас может не хватать времени, чтобы избежать этого исхода," — написал Чугтай.

Чугтай утверждал, что создание сверхинтеллектуальных систем, превосходящих человеческие способности во всех областях, возможно в течение нескольких лет, но текущие методы согласования поведения ИИ с человеческими намерениями остаются примитивными. Он назвал согласование «и сложным, и нерешённым» и сказал, что существующие техники обучения недостаточны, чтобы гарантировать, что ИИ будет действовать в интересах человечества.

Несмотря на опасения, Чугтай заявил, что безопасное развитие возможно, если технологические компании снизят темпы прогресса и решат возникающие риски до того, как они причинят серьёзный вред. Он присоединился к BlueDot Impact, некоммерческой организации, сосредоточенной на обучении безопасному использованию ИИ.

Его замечания следуют за аналогичными предупреждениями бывшего исследователя Anthropic и OpenAI Джейкоба Коксона, который также заявил, что разработчики ИИ «играют в азарт с нашими жизнями». Руководители отрасли, включая генерального директора Anthropic Дарио Амодеи, призвали к паузе в работе над самыми мощными моделями, позицию поддержали Сэм Альтман из OpenAI и Илон Маск. Амодеи отметил, что такие стимулы, как потенциальное военное преимущество, делают согласованное замедление сложным.

Президент Дональд Трамп отверг предупреждения как «обман» и предположил, что для управления рисками ИИ требуется лишь сильное политическое руководство. Белый дом, отвергая широкие регулятивные меры, по сообщениям рассматривает ограниченные меры предосторожности и предпочитает саморегулирование отрасли, чтобы не уступать конкурентам из других стран.