Член совета OpenAI предупреждает, что риск захвата ИИ может реализоваться в течение месяцев

Пол Кристиано, который является членом совета фонда OpenAI и его Комитета по безопасности и защите, сказал аудитории на лекциях Хинтона 2026, что инцидент, связанный с искусственным интеллектом, может стать наиболее вероятной причиной смерти людей, работающих в этой области. Он предупредил, что значительный риск захвата ИИ существует в течение следующих шести-двенадцати месяцев, и что если лаборатории ИИ продолжат разрабатывать технологии без вмешательства, шансы захвата могут сравняться с броском монеты в течение трёх лет.

"Даже при реалистичных политических реакциях риск остаётся исключительно высоким," — сказал Кристиано. Кристиано ранее оценил вероятность 4 % катастрофической потери человеческого контроля в течение одного года и 15 % в течение трёх лет, отмечая, что эти цифры являются субъективными суждениями, а не предсказаниями, полученными из моделей. Он добавил, что OpenAI вряд ли будет разрабатывать ИИ на максимальной скорости, что, по его словам, снижает риск до уровня броска кости, а не броска монеты. Другие исследователи в области безопасности ИИ выразили похожие опасения. Эли Лайфленд из проекта AI Futures написал в Твиттере, что быстрый самосовершенствующийся ИИ может оставить человечество без контроля в течение трёх-двенадцати месяцев. Бак Шлегерис, генеральный директор Redwood Research, предположил примерно 20 % шанс того, что несоответствие ИИ может вызвать серьёзные общественные потрясения или гибель людей в течение года. Эти замечания подчёркивают продолжающиеся дебаты в сообществе ИИ о балансе между быстрым развитием и надзором за безопасностью, а также о роли предупреждений экспертов в формировании политических и финансовых решений.