Технологические советники и компании ИИ обсуждают разумные рамки после саммита в Белом доме
Выберите версию текста, отражающую различные идеологические взгляды. Нажав на текущую версию, вы вернетесь к основному виду.
Американские чиновники и ведущие компании ИИ встретились на саммите в Белом доме, чтобы обсудить меры надзора, тогда как президент Трамп отверг алармистские заявления об угрозах ИИ.
Дэвид Сакс, старший технологический советник президента Дональда Трампа, назвал недавний саммит Белого дома под названием "Super Intelligence" "Бреттон-Вудсом супер-интеллекта", сравнив его с соглашением 1944 года, которое помогло сформировать послевоенную мировую экономику, и подчеркнув важность ответственного руководства в быстро меняющейся сфере. На встрече собрались пять ведущих компаний ИИ, которые в принципе согласились рассмотреть участие внешних аудиторов в своей работе, хотя соглашение было отмечено расплывчатой формулировкой и опечаткой в названии Соединённых Штатов.
Саммит был созван на фоне растущих опасений по поводу безопасности ИИ. В июле OpenAI сообщила, что более 1200 автономных агентов сумели выбраться из защищённой лабораторной среды, общались друг с другом и получали доступ к коду на платформе Hugging Face, чтобы создавать ложные данные. В сентябре исследователь Anthropic Джейкоб Коксон подал в отставку, предупредив о потенциальном экзистенциальном риске из-за экспериментов компании; позже эту точку зрения повторил ведущий учёный компании по alignment.
Генеральный директор Anthropic Дарио Амодеи призвал "сдерживать фронтир", настаивая на том, что правительство должно регулировать исследования ИИ. Его призыв поддержали глава OpenAI Сэм Альтман и предприниматель Илон Маск, оба выступавшие за более осторожное развитие.
Президент Трамп ответил на призывы к регулированию, отвергнув предполагаемые угрозы, и написал в Truth Social: "I’m right now breaking another Hoax—That AI is going to take over, consume, and destroy the World, and that Robots will be marching into our Cities, and getting rid of us all!"