Google сообщает о более чем 100 000 попыток клонирования искусственного интеллекта Gemini через атаки извлечения модели

Google сообщила, что её чат-бот Gemini AI стал объектом масштабных атак извлечения модели, в ходе которых частные организации отправили более 100 000 запросов с целью воспроизведения процессов рассуждения модели. Эти «атаки дистилляции» включают многократные вопросы, направленные на выявление внутренней логики Gemini, что в Google приравнивают к краже интеллектуальной собственности. Компания внедрила инструменты мониторинга для обнаружения аномальных шаблонов запросов и предприняла меры по блокировке источников, идентифицированных как осуществляющие повторные попытки извлечения. Этот инцидент подчёркивает более широкую уязвимость больших языковых моделей к атакам извлечения из-за их интерактивного характера. Группа по анализу угроз Google предупреждает, что подобные случаи, вероятно, затронут и другие компании с кастомными AI-инструментами, что подчёркивает необходимость надёжных мер защиты от таких угроз.