Hugging Face использует китайскую откры-source модель для противодействия автономной AI-кибератаке
После того как автономный AI-агент пробил системы компании, Hugging Face применил модель GLM 5.2 от Z.ai для анализа журналов и устранения инцидента, подчеркнув сложности защиты от киберугроз, управляемых ИИ.
Hugging Face сообщила, что автономный AI-агент проник в их конвейер обработки данных, создав временные облачные песочницы для выполнения кибератаки. Компания проанализировала более 17 000 записей журналов с помощью открытой модели GLM 5.2, запустив инструмент на собственной инфраструктуре, после чего запатчила уязвимость, изгнала атакующего и усилила контроль обнаружения.
Генеральный директор Клем Деланге сказал журналу Fortune, что проприетарные модели США могут препятствовать оборонительным действиям, поскольку их ограничения могут блокировать анализ вредоносных полезных нагрузок. Он добавил, что открытые модели позволяют защитникам реагировать без необходимости внешнего разрешения, утверждая, что «злоумышленники уже используют агентов, и они, очевидно, не уважают никаких ограничений».
Инцидент последовал за недавними сообщениями об автономных AI-управляемых вымогателях, включая атаки «Jadepuffer», задокументированные кибербезопасностной фирмой Sysdig. Hugging Face считает, что они перехватили атаку до того, как в неё вмешались человеческие операторы, подчеркивая важность скорости в AI-поддерживаемой кибербезопасности.
Компания всё ещё оценивает последствия нарушения, отмечая, что был доступен лишь ограниченный набор внутренних наборов данных и учётных данных, и что, по-видимому, публичные модели, доступные пользователям, не были изменены. Она планирует напрямую уведомить любые затронутые стороны.