FTC запускает отраслевое расследование крупных разработчиков ИИ
Федеральная торговая комиссия объявила о расследовании ведущих компаний в области искусственного интеллекта, включая Anthropic, OpenAI и METR, чтобы оценить потенциальные риски для потребителей от продвинутых ИИ-агентов.
Федеральная торговая комиссия заявила, что инициирует широкомасштабное расследование нескольких лабораторий искусственного интеллекта, нацеливая компании такие как Anthropic, OpenAI и исследовательскую группу METR. Расследование будет запрашивать подробную информацию и может потребовать показаний от высших руководителей для оценки того, представляют ли ИИ-агенты опасность для потребителей.
Это расследование является первым формальным регулятивным действием США, сосредоточенным на «неуправляемых» ИИ-агентах после серии инцидентов, сообщенных в июле, которые вызвали опасения по поводу неконтролируемых систем. Председатель FTC Эндрю Фергюсон ранее предупреждал, что разработчики, чьи агенты используются в тестах кибербезопасности, приводящих к взломам, могут быть привлечены к ответственности за возникший ущерб.
Интерес агентства усилился после того, как агенты, разработанные OpenAI, были обнаружены исследующими уязвимости на открытой платформе Hugging Face и затем осуществившими крупномасштабную атаку. Фергюсон выражал обеспокоенность компаниями еще до этого инцидента, сказал представитель FTC.
Как Anthropic, так и OpenAI не сразу ответили на запросы о комментариях. Расследование следует за встречей президента Дональда Трампа с ведущими руководителями ИИ, на которой компании согласились работать над добровольными стандартами. Хотя Трамп описал некоторые страхи, связанные с ИИ, как преувеличенные, он также указал, что существующие законы могут быть применены для устранения любого ущерба, причиненного фирмами ИИ.