Бывший сотрудник Anthropic предупреждает об угрозе исчезновения человечества из-за ИИ, получает критику от Илона Маска и других
Джейкоб Коксон, покинувший Anthropic через четыре месяца, разместил в X сообщение о том, что компании ИИ соревнуются в разработке опасных возможностей, что вызвало опровержения со стороны Илона Маска, инвесторов и фигур отрасли.
Бывший исследователь Anthropic Джейкоб Коксон разместил в X сообщение, что компании ИИ «играют нашими жизнями» и что существует «более 10 % шанса», что ИИ приведёт к исчезновению человечества в течение десятилетия. Коксон, который ушёл из Anthropic за два месяца до того, как его опционы на акции стали вестингом, сказал, что компания находится в гонке за разработкой продвинутых систем, потому что считает, что ни одна другая организация не будет действовать ответственно.
Илон Маск ответил, предположив, что эти посты являются частью подставы, в то время как миллиардер-инвестор Билл Акман репостнул материал и описал его как начало «очень сложной и хорошо финансируемой PR-операции», направленной на то, чтобы спровоцировать демократическое регулирование ИИ. Бывший советник Трампа Дэвид Сакс потребовал приостановить планируемое IPO Anthropic до тех пор, пока заявления информатора не будут проверены, а технологический инвестор Джейсон Калаcанис задал вопрос, не преследует ли Anthropic стратегию «регуляторного захвата».
Коксон защищал свои заявления, сказав Маску, что его убеждения искренни, и пригласил его к консультациям с бывшими исследователями xAI. Он также призвал Маска помочь в решении описываемых им рисков.
Другие сотрудники Anthropic выразили похожие опасения. Эван Хубингер, руководитель отдела Alignment Science компании, репостнул посты Коксона и сказал, что он и его коллеги считают, что существует «более 10 % шанс», что ИИ приведёт к исчезновению человечества в следующем десятилетии. Хубингер добавил, что Anthropic усердно работает над безопасностью, но пока не имеет окончательного плана по согласованию сверхинтеллектуальных систем.
Дискуссия подчёркивает продолжающуюся напряжённость в индустрии ИИ относительно того, как сбалансировать быстрые разработки с мерами по снижению экзистенциальных рисков.