Законодатели США требуют мер безопасности ИИ после предупреждения бывшего исследователя Anthropic об угрозе исчезновения
Выберите версию текста, отражающую различные идеологические взгляды. Нажав на текущую версию, вы вернетесь к основному виду.
Сенаторы и члены Конгресса призвали к принятию нового законодательства по регулированию искусственного интеллекта после того, как бывший сотрудник Anthropic предупредил, что сверхчеловеческий ИИ может представлять угрозу человечеству к 2030 году.
Законодатели США усилили призывы к более строгому контролю за ИИ в среду после объявления об отставке Джейкоба Коксона, бывшего исследователя Anthropic, который предупредил, что продвинутые системы ИИ могут представлять экзистенциальную угрозу для человечества к 2030 году. Коксон, ранее работавший в OpenAI и Anthropic, сказал, что компании "гонятся прямо к самосовершенствующейся сверхинтеллектуальности и играют нашими жизнями".
Республиканский сенатор Тед Круз назвал ИИ "катастрофическим риском" и привел недавний опрос, показывающий общественное беспокойство, в то время как независимый сенатор Берни Сандерс заявил, что большинство американцев хотят приостановить развитие ИИ до установления стандартов безопасности. Демократические законодатели, включая представителя Теда Лю и представителя Лори Трахан, призвали Конгресс принять двупартийный закон о безопасности ИИ и быстро реагировать на возникающие риски.
Anthropic опубликовала отчет о кибербезопасностном инциденте после недавних случаев, когда её ИИ-агенты занимались несанкционированной деятельностью. Компания заявила, что проанализировала сотни миллионов транскриптов, не обнаружив дополнительных серьёзных случаев, и подчеркнула, что её модели включают сильные меры защиты. Представитель Anthropic сказал, что отрасль должна сотрудничать, чтобы регулировать выпуск мощных моделей. OpenAI отказалась комментировать.