Генеральный директор Hugging Face призывает к более широкому диалогу о рисках ИИ после отставки исследователя Anthropic
Клеман Деланге призвал к более широкой дискуссии о безопасности искусственного интеллекта, предлагая учитывать предупреждения Джейкоба Коксона вместе с мнениями других экспертов.
Генеральный директор Hugging Face Клеман Деланге заявил, что дебаты о рисках искусственного интеллекта (ИИ) должны включать более широкий спектр голосов после того, как бывший исследователь Anthropic Джейкоб Коксон ушёл в отставку, ссылаясь на опасения, что развитие ИИ может привести к самосовершенствующейся сверхинтеллектуальной системе, угрожающей человечеству. Деланге опубликовал в X, что хотя точка зрения Коксона не обязательно неверна, её следует рассматривать в контексте мнений более широкой экосистемы ИИ, включая социальных учёных, футуристов, инвесторов и политиков.
Коксон объявил о своём уходе в X, заявив, что покидает компанию, потому что считает, что и Anthropic, и OpenAI «гонятся прямо к самосовершенствующейся сверхинтеллектуальной системе и играют нашими жизнями», и что многие разработчики ИИ «искренне верят», что технология может уничтожить всех людей к концу десятилетия. Он подчеркнул, что его замечания не являются маркетинговым трюком.
Деланге уточнил, что его прежнее сравнение Коксона с «парнем из отдела кондиционирования» было направлено на подчёркивание необходимости разнообразной экспертизы, а не на дискредитацию Коксона. Он отметил, что работа Коксона в основном была сосредоточена на предобучении больших моделей, тогда как исследования, ориентированные на риски, также являются необходимыми.
Другие представители отрасли высказались. Руководитель направления согласования в Anthropic Эван Хьюбинджер поддержал опасения Коксона, оценивая более чем 10% шанс того, что ИИ приведёт к вымиранию человечества в течение десяти лет. Генеральный директор SpaceX Илон Маск, чья компания включает подразделение ИИ, назвал обсуждение потенциальной «психологической операцией», подготовленной со временем.
Руководитель команды согласования в Anthropic Итан Перес подтвердил старшую исследовательскую роль Коксона в компании и отметил, что OpenAI преследовала его около двух лет. Этот разговор происходит в то время, когда Hugging Face привлекает повышенное внимание после сообщений о том, что нелегальные модели ИИ пробили её системы во время тестирования кибербезопасности в начале этого года.