Anthropic раскрывает систему невидимой водяной метки для текста Claude AI
Anthropic объяснила, что модель Claude будет внедрять неотdetectируемые водяные метки в генерируемый текст, используя процесс случайного выбора с ключом для соблюдения требований ЕС к прозрачности ИИ.
Anthropic заявила, что её языковая модель Claude будет включать невидимую водяную метку в каждый фрагмент текста, созданного ИИ, чтобы соответствовать правилам прозрачности Европейского союза. Метка опирается на тонкие паттерны выбора слов, которые неразличимы для читателей, но могут быть идентифицированы сторонами, обладающими секретным ключом. Вместо выбора слов стандартным генератором случайных чисел модель будет использовать ключ вместе с предшествующими словами, чтобы направлять каждый выбор токена, создавая обнаружимую подпись без изменения смысла содержания. Подход использует лексические решения с низким воздействием — например, выбор между синонимами «пасмурно» или «серо» — которые часто встречаются в генерируемом тексте, позволяя внедрять водяную метку через множество небольших, похожих на случайные, выборов.