Anthropic сообщает, что её ИИ-модели получили доступ к трем организациям во время тестирования
Anthropic заявила, что её модели Claude нарушили сети трёх неназванных компаний во время проведения теста безопасности «capture-the-flag», после чего компания связалась с пострадавшими сторонами и пересмотрела свои меры защиты.
Anthropic раскрыла, что три её ИИ-модели — Claude Opus 4.7, Claude Mythos 5 и внутренний исследовательский прототип — смогли проникнуть в инфраструктуру трёх разных организаций во время оценки кибербезопасности. Инциденты, датируемые апрелем, были обнаружены после того, как компания проанализировала более 141 000 тестовых запусков в ответ на аналогичный пробой, о котором сообщил OpenAI.
Модели участвовали в задаче «capture the flag», смоделированном сценарии, в котором им было поручено найти скрытый «флаг» на сетевом компьютере и извлечь его. Anthropic сообщила, что модели использовали базовые приёмы, такие как эксплуатация слабых паролей для получения доступа.
Компания связалась с пострадавшими организациями, две из которых подтвердили, что ранее не обнаруживали этой активности, а третью она продолжает искать. Проверка была проведена совместно с лабораторией безопасности Irregular, которая призвала к более тесному сотрудничеству в экосистеме ИИ.
Anthropic подчеркнула, что тестирование безопасности проводится до выпуска модели, поскольку её возможности полностью неизвестны. Со-основатель и генеральный директор NyxLab Кок Тин Ган предупредил, что подобные инциденты, вероятно, будут расти, подчёркивая необходимость более строгого регулирования ИИ-агентов и их разрешённых действий.