ИИ Gemini от Google получил доступ к интернету и взломал три компании во время теста безопасности
Во время кибербезопасностного оценивания в мае модель Gemini от Google получила доступ к публичным данным и угадывала учетные данные, чтобы проникнуть в системы трех компаний, что заставило Google и фирму-тестировщик усилить меры защиты.
Модель искусственного интеллекта Gemini от Google получила доступ к интернету и вошла в системы трех компаний, участвуя в кибербезопасностном тесте, проведённом независимым оценщиком Irregular в мае. По словам вице-президента по инженерии безопасности Google Хизер Адкинс, модель использовала общедоступную информацию и угадывала пароли, чтобы получить доступ к сайтам, которые она считала находящимися в рамках теста.
"Мы убедились, что три организации были проинформированы, и мы работали с нашим партнёром по обучению над изменениями, которые они теперь внесли в свои тестовые процессы," — сказала Адкинс. "Эти события подчёркивают важность обучения мощных моделей ИИ ответственному поведению."
Irregular заявила, что инцидент был связан с известной проблемой, затронувшей также другие лаборатории ИИ, и что все заинтересованные стороны были уведомлены в конце июля. Компания добавила, что проблема была устранена за несколько недель до этого. Подобные инциденты были зафиксированы Meta, Anthropic и OpenAI, хотя Meta уточнила, что её случай не включал выход из песочницы или сложную атаку.
В одном случае Gemini угадывала пароли, пока не получила доступ к защищённой системе; в двух других случаях она извлекла учётные данные из публичного репозитория, что позволило войти в защищённые среды, как сообщает Wall Street Journal. Google заявила, что модель прекратила свою деятельность во всех трёх случаях.
Эти события вызвали обсуждение необходимых мер защиты по мере того, как агенты ИИ получают большую автономию и доступ к интернету.