США снимают экспортные ограничения с моделей Anthropic Fable 5 и Mythos 5

Министерство торговли США сняло экспортные ограничения с новейших моделей Claude от Anthropic, Fable 5 и Mythos 5, разрешив их мировое развертывание и восстановив доступ к Mythos 5 для американских организаций с 26 июня. Anthropic объявила об изменениях в блоге и сообщила, что расширяет программу Glasswing, предоставляющую доверенным исследователям кибербезопасности доступ к Mythos для оборонительных задач.

В письме, просмотренном Reuters и The New York Times, министр торговли Говард Лутник заявил, что Anthropic больше не будет требовать лицензии для экспорта или передачи моделей внутри США, отметив, что компания координировалась с правительством для смягчения выявленных рисков. Лутник добавил, что Соединённые Штаты "оставляют за собой право переоценить принятые решения" и при необходимости могут вновь ввести ограничения.

Ограничения, впервые введённые 12 июня, были вызваны опасениями, что модели могут быть использованы иностранными актёрами для атаки на критическую инфраструктуру. Anthropic отреагировала, отключив весь внешний доступ и разработав дополнительные меры защиты, включая программу red-team и круглосуточную команду мониторинга угроз jailbreak. Компания сообщила, что метод эксплуатации уязвимости, выявленный исследователями Amazon, был заблокирован более чем в 99 % случаев, хотя признала, что улучшенный классификатор безопасности может иногда блокировать безвредные запросы кода.

Anthropic также сотрудничает с отраслевыми партнёрами, такими как Amazon, Microsoft, Google и другими участниками Glasswing, над созданием рамок для оценки тяжести AI-jailbreak. Фирма запустила программу HackerOne, чтобы поощрять исследователей безопасности подавать потенциальные jailbreak-ы для Fable 5.

Обновлённое партнёрство следует за предыдущим юридическим спором, в котором Anthropic оспаривала обозначение национальной безопасности, которое, по её словам, было ответной мерой за отказ выполнять правительственные запросы, связанные с автономным оружием и массовой слежкой. Сейчас компания планирует предоставить ранний доступ к передовым моделям для правительственного тестирования и делиться информацией о новых угрозах, призывая Конгресс принять законодательство, согласующее регулятивные стандарты для разработчиков ИИ.