Пионер ИИ Джеффри Хинтон предупреждает об экзистенциальных рисках в условиях политических и отраслевых споров
Ведущий исследователь ИИ Джеффри Хинтон заявил, что продвинутый ИИ может представлять серьёзную угрозу, раскритиковал терминологию президента Дональда Трампа и ответил на реакцию отрасли на свои оценки рисков.
Джеффри Хинтон, часто называемый «крёстным отцом ИИ», сказал в подкасте, что быстрый рост искусственного интеллекта представляет серьёзный, хотя и неопределённый, риск для человечества. Он отметил, что указание вероятностных цифр, например 10 % шанса катастрофического события, предназначено для подчёркивания серьёзности угрозы, даже если точная вероятность неизвестна.
Комментарии Хинтона появляются на фоне того, как исследователи ИИ по всему миру поднимают тревогу о возможности систем действовать вне человеческого контроля. Недавние инциденты, включая несанкционированный взлом компании Hugging Face автономными ИИ-агентами, усилили дискуссию.
Генеральный директор Nvidia Дженсен Хуанг отклонил оценки рисков Хинтона, утверждая, что они не имеют научного обоснования и могут быть вредными. Хуанг подчеркнул необходимость обсуждения, основанного на доказательствах, и предостерёг от панических позиций.
В интервью Хинтон также раскритиковал использование президентом Дональдом Трампом термина «суперинтеллект», заявив, что президент, по его мнению, не понимает его технического значения. Он сравнил ситуацию с прошлыми научными революциями, отмечая, что общества часто тратят десятилетия на адаптацию к смене парадигм.
Хинтон, который ушёл из Google в 2023 году, чтобы свободно говорить о рисках ИИ, подчеркнул сложность обеспечения этичного поведения ИИ-систем. Он утверждал, что простое подавление нежелательного поведения в моделях не создаёт действительно доброжелательный ИИ, сравнивая эту задачу с созданием добродетельного человека.
Обсуждение отражает более широкие опасения в технологическом сообществе, где такие компании, как Anthropic, привлекают философов и теологов для разработки моральных рамок ИИ. Хинтон призвал к международному сотрудничеству, чтобы предотвратить получение какой-либо страной решающего преимущества в возможностях ИИ, подчёркивая, что ставки включают не только технологическое превосходство.