Anthropic отключает модели Fable и Mythos после приказа Министерства торговли США
Anthropic приостановила доступ к моделям Fable 5 и Mythos 5 после директивы Министерства торговли, наложившей экспортный контроль из-за опасений национальной безопасности, связанных с сообщаемым взломом.
Anthropic объявила в пятницу вечером, что отключила свои крупные языковые модели Fable 5 и Mythos 5 для всех клиентов после получения директивы от Министерства торговли США, которая подпадает под ограничения экспортного контроля. Компания заявила, что действие необходимо для немедленного соблюдения требований, в то время как доступ к её другим моделям остаётся без изменений.
Беспокойство Министерства торговли возникло из-за сообщений о «взломе», который мог бы обойти классификаторные меры защиты и позволить моделям генерировать контент, связанный с кибербезопасностью, химией и биологией. Депутат администрации, цитируемый Axios, сказал, что пауза даст национальной безопасности время укрепить оборону, процесс который может быть завершён в течение нескольких недель.
Anthropic сообщила, что правительство предоставило лишь «устные доказательства потенциального узкого, неуниверсального взлома», связанного с проверкой конкретной кодовой базы на наличие программных уязвимостей. Компания отметила, что взлом, по-видимому, нацелен на «небольшие» и «относительно простые» программные уязвимости и что аналогичные возможности существуют в других публично доступных моделях.
"Мы соблюдаем юридическую директиву правительства и удаляем доступ к Fable 5 и Mythos 5 для всех пользователей," — написала компания. "Тем не менее, мы не согласны с тем, что обнаружение узкого потенциального взлома должно стать причиной отзыва коммерческой модели, развернутой у сотен миллионов людей. Если бы такой стандарт применялся по всей отрасли, мы считаем, что это фактически остановило бы все новые развертывания моделей у всех поставщиков передовых моделей."
Этот шаг следует за указом, подписанным в начале месяца президентом Трампом, призывающим разработчиков ИИ добровольно проходить государственное тестирование безопасности. Anthropic извинилась перед клиентами за неудобства, описав их как результат «недоразумения», и заявила, что дополнительные детали будут предоставлены в течение 24 часов.
