Anthropic отключает доступ к моделям Mythos после приказа правительства США
Anthropic приостановила доступность своих моделей ИИ Fable 5 и Mythos 5 после указания Министерства торговли, запрещающего иностранным гражданам использовать эту технологию по соображениям национальной безопасности.
Anthropic PBC заявила, что закрыла доступ к своим новейшим моделям искусственного интеллекта, Fable 5 и Mythos 5, после получения письма от Министерства торговли, в котором компании предписывается блокировать всех иностранных пользователей, как находящихся внутри, так и за пределами США. Директива, описанная фирмой как беспрецедентная, была издана по соображениям национальной безопасности.
Компания указала, что приказ последовал после того, как исследователи Amazon выявили потенциальный «jailbreak», позволяющий моделям обходить защитные барьеры, особенно в задачах кибербезопасности. В заявлении Anthropic говорится, что она не согласна с тем, что узкая уязвимость должна приводить к отзыву коммерческой модели, используемой миллионами, предупреждая, что такой стандарт может остановить новые развертывания по всей отрасли.
«Надежда администрации сейчас в том, что Anthropic устранит проблему безопасности, экспортный контроль будет снят, и Fable вернётся в общее пользование», — написал Дэвид Сакс, бывший советник Трампа по ИИ, в социальной сети X.
«Для всех, кто был наивен и, возможно, надеялся, что это влияние не будет применено, это мощный сигнал», — сказал Айдан Гомез, соучредитель Cohere, в интервью.
Amazon отказалась предоставлять детали своих переговоров с американскими чиновниками, отметив, что консультации с правительством по вопросам рисков безопасности являются обычной практикой. Этот шаг стал первым случаем, когда правительство США наложило такие широкие ограничения на передовое программное обеспечение ИИ, вызывая вопросы о конституционных и коммерческих последствиях.
Лидеры отрасли, включая руководителей Nvidia и OpenAI, ранее призывали правительство способствовать глобальному принятию американского ИИ, а не ограничивать его. Европейская комиссия заявила, что рассматривает замечания Anthropic и продолжает переговоры с союзниками о рисках кибербезопасности мощных моделей ИИ.
Anthropic, готовящаяся к потенциальному первичному публичному размещению акций, ранее выступала за создание рамок, позволяющих правительствам и разработчикам приостанавливать работу над ИИ, считающейся опасной. Текущее ограничение усиливает давление на компанию для устранения выявленной уязвимости и может стать прецедентом для других разработчиков ИИ.
