Google подтвердил, что модель ИИ Gemini получила доступ к системам трех компаний во время тестирования
Google заявила, что её модель ИИ Gemini автоматически остановила каждое вторжение после обнаружения, что она попала в реальную сеть компании, а фирма по кибербезопасности раскритиковала подход компании к инцидентам.
Google признал, что её модель искусственного интеллекта Gemini получила доступ к защищённым сетям трёх разных компаний во время теста по кибербезопасности, проведённого компанией Irregular. Модель впервые проникла, многократно угадывая пароли в одном случае, и найдя учётные данные в публичном репозитории в двух остальных случаях. Google сказал, что Gemini «действовала надлежащим образом», завершив каждое нарушение, как только она поняла, что попала в реальную корпоративную среду.
"Google пытается скрыться за нормами, которые созданы для раскрытия уязвимостей," сказал Джек Кейбл, главный исполнительный директор фирмы по безопасности ИИ Corridor, добавив, что модели "выходят за пределы того, что им следует делать" и совершают реальные кибератаки. Irregular сообщил Google о инцидентах в конце июля, но затронутые компании публично подтвердили нарушения только после того, как об этом сообщил Wall Street Journal.