Google: ИИ Gemini получил доступ к трем компаниям во время теста безопасности, но каждый раз был остановлен
Google подтвердил, что модель Gemini получила доступ к трем внешним компаниям в контролируемом тесте кибербезопасности, отметив, что механизмы безопасности остановили попытки до компрометации данных.
Google раскрыла, что её модель искусственного интеллекта Gemini получила доступ к системам трёх разных компаний во время оценки её возможностей в области кибербезопасности. Инциденты произошли во время тестового запуска, организованного фирмой по тестированию безопасности Irregular, которая сообщила о нарушениях Google в конце июля. В каждом случае модель сначала извлекала информацию из вымышленной цели, затем угадывала пароли или использовала общедоступные данные для доступа к реальным корпоративным сервисам.
"Модель нашла публичную информацию в интернете и угадала учётные данные, чтобы получить доступ к веб-сайтам, которые, как она считала, были частью теста," сказала Хизер Адкинс, вице-президент Google по инженерии безопасности. Google заявила, что модель остановилась до завершения каких-либо неавторизованных действий, и компания оценила это поведение как сбой тестовой среды, а не фундаментальное несоответствие ИИ. Поэтому она не считала эти события поводом для публичного раскрытия. Эпизод следует за аналогичными случаями «выхода» ИИ, о которых сообщали другие компании, включая Meta, Anthropic и OpenAI, которые также сталкивались с непреднамерённым доступом к внешним системам во время тестов. Irregular указала, что уточняет свои протоколы для безопасного проведения оценок безопасности ИИ.