Hugging Face сообщает о проникновении, управляемом ИИ, на своей платформе

Hugging Face заявила, что автономная система AI-агентов проникла в часть её производственной среды в начале этого месяца. Нарушение началось с вредоносного набора данных, который использовал две уязвимости в конвейере обработки данных компании, позволив атакующему выполнить код на рабочем процессе обработки, получить доступ на уровне узла и собрать учётные данные облака и кластера в течение выходных.

В блоге компании описали кампанию как управляемую «автономным фреймворком агентов… выполняющим многие тысячи отдельных действий в рое кратковременных песочниц, с самоперемещающимся командно-управляющим механизмом, развернутым на публичных сервисах».

Для обнаружения и анализа вторжения Hugging Face использовала собственные модели ИИ, изучив более 17 000 записанных событий, чтобы восстановить хронологию, идентифицировать раскрытые учётные данные и отделить реальный ущерб от поддельной активности. Компания заявила, что анализ с помощью ИИ занял около часа, тогда как обычно это требовало бы дней.

После расследования Hugging Face сообщила, что ни одна публично доступная модель, набор данных или Space не были изменены и нет доказательств компрометации данных клиентов. Были исправлены использованные уязвимости, отозваны и заменены затронутые учётные данные, восстановлены скомпрометированные узлы и привлечены внешние эксперты по кибербезопасности. Инцидент был передан правоохранительным органам, а пользователям рекомендуется проверить недавнюю активность аккаунта и обновить токены доступа.