Предупреждения руководителей ИИ воспринимаются как искренняя обеспокоенность, а не маркетинговый ход
Лидеры отрасли и бывшие сотрудники утверждают, что предупреждения об экзистенциальных рисках ИИ исходят из искренних убеждений в потенциальной опасности технологии, а не из PR-стратегии.
Недавние заявления генерального директора Anthropic Дарио Амодеи в Организации Объединённых Наций и главы OpenAI Сэма Альтмана предупредили, что плохо управляемые системы искусственного интеллекта могут представлять угрозу для человечества. Эти комментарии вызвали обширное освещение в СМИ и политические дебаты о так называемых экзистенциальных угрозах ИИ.
Некоторые комментаторы предположили, что такие предупреждения являются тактикой по связям с общественностью, направленной на привлечение инвестиций, отвлечение внимания от текущих вредов и влияние на регулирование перед предстоящими IPO. Критики указывают на время высказанных замечаний и утверждают, что изображение ИИ как потенциального апокалипсиса может повысить интерес рынка.
Однако множество наблюдателей и бывших инсайдеров считают, что эти опасения в значительной степени искренни. Бывший исследователь Anthropic Джейкоб Коксон ушёл из компании, обвинив её в «игре нашими жизнями», а его коллега оценил вероятность более 10 процентов того, что ИИ вызовет исчезновение человечества в течение десятилетия. Учёный-компьютерщик Кэл Ньюпорт и другие, интервьюированные для статьи, сказали, что заявления лидеров выглядят основанными на подлинных технических наблюдениях о быстром росте возможностей и автономии ИИ.
Аналитики отрасли отмечают, что инвесторы в первую очередь привлекаются прибыльностью приложений ИИ, а не спекулятивными страхами перед робот-апокалипсисом. Даже видные поддерживающие Силиконовой долины такие как Марк Андриссен и генеральный директор Nvidia Дженсен Хуанг публично отклонили катастрофические сценарии, продвигая преимущества ИИ.
Статья также указывает, что внимание СМИ к рискам ИИ не уменьшило освещение непосредственных вредов; крупные издания за последние недели опубликовали множество материалов о влиянии ИИ на инфраструктуру, здравоохранение, труд и окружающую среду. Более того, независимые исследователи безопасности ИИ и бывшие сотрудники, многие из которых отказались от доли в компании, продолжают поднимать тревогу о долгосрочных рисках.
«Меня особенно тревожит сочетание того, что мы передаём всё больше власти и контроля моделям, даже когда всё меньше понимаем, почему они делают то, что делают», — сказал Нэт Пёрсер, директор по политике США в Институте верификации и оценки ИИ.
Хотя оценки вероятностей, приведённые некоторыми руководителями, носят спекулятивный характер, тенденция к росту мощности и автономии моделей при ограниченной прозрачности поддерживает точку зрения, что их предупреждения не являются лишь маркетинговым упражнением.