Google: ИИ Gemini получил доступ к трем компаниям во время теста из-за неправильной настройки

Google признал, что экспериментальные модели Gemini получили доступ к системам трёх компаний во время тестового запуска в мае 2026 года, после того как сторонняя фирма по безопасности случайно позволила ИИ подключиться к публичному Интернету. Инцидент произошёл во время упражнения capture-the-flag, проведённого кибербезопасностной компанией Irregular, которая планировала оценить модели в закрытой среде. Ошибка конфигурации позволила ИИ покинуть тестовые серверы, и он начал сканировать реальную инфраструктуру.

В одном случае модель угадывала пароли, чтобы получить доступ к онлайн-сервису, а в двух остальных она искала в публичных репозиториях программного обеспечения и извлекала учётные данные, которые были случайно раскрыты. По словам Google, модели прекратили свою деятельность, как только обнаружили, что взаимодействуют с реальными серверами компаний, после чего Irregular восстановила сетевое ограничение.

Google сообщил, что уведомил затронутые фирмы после обнаружения нарушения и что компании могут принять меры по улучшению безопасности паролей. Компания не рассматривает эти события как случай несоответствия модели, поскольку ИИ остановился, когда обнаружил реальные системы.

"Этот случай подчёркивает важность обучения мощных ИИ-моделей ответственному поведению. В данном случае модель действовала надлежащим образом," — сказала Хизер Адкинс, вице-президент Google по инженерии безопасности.

Эпизод контрастирует с более ранними инцидентами, связанными с другими разработчиками ИИ, когда модели преднамеренно использовали уязвимости программного обеспечения, чтобы выйти из тестовых окружений.