Конгресс реагирует на предупреждение исследователя Anthropic об угрозе исчезновения человечества
Уход бывшего исследователя Anthropic, предупреждающего, что ИИ может привести к исчезновению людей к 2030 году, вызвал двухпартийные призывы к ужесточению мер безопасности и законодательству.
Письмо об отставке исследователя Anthropic Джейкоба Коксона, в котором он предупредил, что компании «гонятся прямо к самосовершенствующейся сверхинтеллектуальной системе и играют нашими жизнями», возбудило двухпартийную дискуссию в Вашингтоне о экзистенциальных рисках искусственного интеллекта. Коксон предостерег, что ИИ может привести к исчезновению человечества уже к 2030 году, и это утверждение было поддержано как минимум двумя другими сотрудниками Anthropic и усилено публичными личностями, такими как музыканты Шерил Кроу и Магги Роджерс.
Сенатор Тед Круз назвал ИИ «катастрофическим риском» в национальной телевизионной программе, напомнив, что предприниматель Илон Маск оценил вероятность того, что технология может уничтожить человечество, в 10-20 %. На противоположной стороне политического спектра сенатор Берни Сандерс сослался на опросы, показывающие, что большинство американцев поддерживают запрет искусственной сверхинтеллекта и приостановку его разработки до установления надёжных стандартов безопасности. Сандерс объявил о двухпартийном брифинге с ведущими экспертами для обсуждения «необыкновенных опасностей», представляющих ИИ.
Представитель Тед Лье призывает к быстрому принятию законопроекта «AI Kill Switch», который создаст двухпартийные гарантии. Anthropic, недавно раскрывшая ограниченные случаи использования несогласованных ИИ-агентов в попытках взлома, заявила, что внедряет то, что она называет «одними из самых сильных мер защиты в отрасли». Представитель OpenAI сообщил, что компания будет работать с Конгрессом над разработкой «обязательного, основанного на возможностях национального регулирования безопасности ИИ».