Anthropic заявила, что её AI-водяной знак будет применяться глобально для соблюдения регуляций ЕС
Anthropic объявила, что будет внедрять водяной знак в тексты, сгенерированные Claude, по всему миру, чтобы соответствовать Закону об ИИ Европейского союза, объяснив, как работает технология и её ограничения.
Anthropic заявила, что будет внедрять водяной знак в выводы своих моделей Claude по всему миру, чтобы соответствовать требованиям Закона об ИИ Европейского союза. Компания объяснила, что водяной знак будет добавлен в новые модели при их запуске, а позже — в более старые версии, поскольку пока нет надёжного способа ограничить эту функцию только определёнными регионами.
Водяной знак основан на методике, описанной в статье Google DeepMind 2024 года. Он опирается на тонкие шаблоны в выборе слов моделью, которые можно обнаружить с помощью секретного «ключа», который Anthropic планирует выпустить через API для пользователей и третьих сторон. Компания заявила, что водяной знак не включает скрытые символы или видимые изменения и не будет заметен читателям.
Anthropic отметила, что ключ будет лишь указывать вероятность того, что Claude участвовал в создании текста, а не то, что был задействован какой-либо ИИ. Более длинные отрывки легче поддаются оценке ключом, тогда как фактические или кодовые выводы могут получать меньше отметок, чтобы не ухудшать точность. Фирма уточнила, что водяной знак не влияет на права пользователей на владение контентом.
"Лёгкое редактирование, вероятно, не удалит водяной знак полностью; полная переписка, где заменяется каждое слово, — да," говорится в блоге.
Anthropic сообщила, что не наблюдала роста количества отмен подписок после анонса водяного знака и ожидает, что другие поставщики ИИ примут аналогичные меры.