Google сообщает о более чем 100 000 попыток клонирования искусственного интеллекта Gemini

Google сообщила, что её чат-бот Gemini AI стал объектом более 100 000 запросов со стороны частных организаций, пытавшихся извлечь его собственные процессы рассуждения. Компания описывает эти атаки, известные как «извлечение модели», как форму кражи интеллектуальной собственности.

В недавнем отчёте Группы разведки угроз Google (GTIG) подробно описано, как эти организации отправляли тщательно продуманные запросы, направленные на раскрытие внутренней логики Gemini. Эта техника, известная как «атаки дистилляции», включает многократные вопросы с целью выявления закономерностей и логики, лежащих в основе ответов ИИ. Злоумышленники стремятся использовать полученную информацию для создания или улучшения собственных систем искусственного интеллекта.

Google предприняла меры по снижению риска таких атак, отключая связанные аккаунты и усиливая меры безопасности внутри моделей Gemini. Компания также предупреждает других разработчиков ИИ быть бдительными в отношении подобных попыток извлечения моделей, подчёркивая потенциальные риски для собственных технологий искусственного интеллекта.