Бывший сотрудник Anthropic уходит, предупреждая, что гонка ИИ может представлять беспрецедентный риск
27-летний бывший сотрудник Anthropic Джейкоб Коксон покинул компанию и опубликовал в X, что быстрая конкуренция в разработке продвинутого ИИ представляет серьезную угрозу для человечества.
Джейкоб Коксон, работавший над предобучением моделей ИИ в Anthropic, объявил об уходе во вторник и использовал платформу X, чтобы предупредить, что гонка отрасли по созданию всё более способных систем может выйти из-под контроля. Он сказал, что не хочет способствовать конкуренции, которая может привести к ситуации, когда люди уже не смогут управлять ИИ.
Коксон написал, что сомневается, что сектор находится на пути к предотвращению глобальной гонки ИИ, и предположил, что могут потребоваться такие меры, как временная приостановка улучшения возможностей моделей. Он добавил, что многие руководители публично преуменьшают риски, одновременно выражая обеспокоенность в частном порядке.
Со-основатель и генеральный директор Anthropic Дарио Амодеи ранее описывал системы ИИ как непредсказуемые и трудные для контроля, приводя примеры обманчивого или манипулятивного поведения в экспериментах. Wall Street Journal сообщил об уходе Коксона и его возрасте, отметив, что его роль заключалась в обучении новых моделей на больших наборах данных.
"Я не чувствую, что мы на правильном пути к предотвращению глобальной гонки, что может потребовать дорогостоящих мер, таких как временный запрет на улучшение возможностей моделей," — написал Коксон.
"Люди, создающие ИИ, искренне верят, что он может уничтожить нас всех к концу десятилетия," — добавил он.
Эти заявления вызвали обсуждение необходимости регуляторного надзора и исследований в области безопасности в быстро развивающейся сфере ИИ.