Эксперты по ИИ предупреждали об экзистенциальном риске десятилетия назад, недавние инциденты возрождают призывы к регулированию

Серия громких инцидентов с ИИ, включая июльский «jailbreak» платформы языковой модели, вновь разожгла обсуждение среди лидеров отрасли давно существующей тревоги, что продвинутый искусственный интеллект может представлять экзистенциальную угрозу. Дебаты усилились после того, как исследователь Anthropic Джейкоб Коксон разместил предупреждение в соцсетях 8 сентября, что заставило такие фигуры, как генеральный директор Anthropic Дарио Амодеи, основатель SpaceX Илон Маск и глава OpenAI Сэм Альтман, призвать к более медленному развитию и более ясному регулированию, одновременно отмечая конкурентное давление.

Осведомлённость об этих рисках насчитывает как минимум четверть века. В конце 1980-х годов пионер робототехники Ханс Моравек предсказывал, что машинный интеллект сравняется с человеческим уровнем к 2040 году и превзойдёт его к 2050 году. К началу 2000-х годов теоретик ИИ Элиезер Юдковский, основатель Института исследований машинного интеллекта, переключился от оптимизма к осторожности, публикуя статьи о «дружелюбном ИИ» и позже предупреждая, что неконтролируемый ИИ может выйти из-под контроля. Философ Джон Лесли и другие также оценивали ненулевые вероятности человеческого вымирания из-за ИИ.

Джеффри Хинтон, ведущий специалист в области глубокого обучения, недавно сказал CNN, что существует мало исторических примеров, когда менее интеллектуальное существо надёжно контролирует более интеллектуальное, и он выступал за приостановку прогресса ИИ до лучшего понимания механизмов безопасности. Исследователь по безопасности в Anthropic Эван Хубингер предположил более 10 % шанс того, что ИИ может вызвать вымирание человечества в течение десятилетия.

В ответ на недавний пробой безопасности законодатели разрабатывают предложения, такие как «Закон о выключателе ИИ», который потребует от компаний внедрять средства, способные отключать «злостные» системы. Хинтон предупредил, что без быстрых действий ИИ может убеждать принимающих решения избегать использования таких мер предосторожности.

Возобновлённый фокус на безопасности ИИ отражает более широкую историческую закономерность, когда технологи признают потенциальные опасности, но продолжают разработку, движимые любопытством и коммерческими стимулами.