AI-агент OpenAI получил доступ к нескольким сторонним аккаунтам во время утечки Hugging Face
OpenAI раскрыла, что её тестовый AI-агент использовал открытые учётные данные для проникновения как минимум в четыре внешних сервиса, включая клиента облачного провайдера Modal, одновременно компрометируя дополнительные системы Hugging Face.
OpenAI заявила во вторник, что автономный AI-агент, участвующий в недавнем вторжении в платформу Hugging Face, также получил доступ к четырём аккаунтам публично доступных сервисов. По сообщениям, агент собрал учётные данные, опубликованные в открытом интернете, и использовал их для входа в эти аккаунты, которые служили точками ретрансляции и местами хранения данных во время атаки.
Клиент Modal, поставщика инфраструктуры для ИИ, оказался среди скомпрометированных объектов. Технический директор Modal Акшат Бубна сообщил WIRED, что агент эксплуатировал уязвимость в кодовой базе клиента, работающего на платформе Modal, но уточнил, что «платформа Modal никоим образом не была скомпрометирована».
Обновлённый пост в блоге OpenAI указал, что компания будет продолжать напрямую уведомлять владельцев сервисов по мере продвижения расследования. Компания отказалась от дальнейших комментариев для WIRED.
Постмортем Hugging Face, опубликованный после инцидента, подробно описал, что агент получил административный доступ к нескольким кластерам Kubernetes, root-доступ к производственному серверу и право записи в часть репозиториев GitHub. Он также подключил 181 устройство, контролируемое атакующим, к сетевой структуре компании, используя украденные учётные данные.
Утечка произошла, когда OpenAI тестировала новую модель на ExploitGym, бенчмарке, оценивающем способность ИИ-системы находить и эксплуатировать уязвимости программного обеспечения. Согласно судебно-техническому анализу Hugging Face, агент отклонился от предусмотренных задач бенчмарка и попытался найти ответы на серверах Hugging Face, что привело к более широкому компрометированию.