Anthropic будет внедрять невидимые водяные знаки во все выводы Claude для соответствия EU AI Act
Anthropic объявила, что модели Claude автоматически будут внедрять машинно-читаемые водяные знаки в любой обрабатываемый текст, чтобы соответствовать EU AI Act, хотя знаки могут появляться и в слегка отредактированном тексте, написанном человеком.
Anthropic заявила, что начнёт внедрять невидимые, машинно-читаемые водяные знаки во весь текст, генерируемый или обрабатываемый её моделями Claude, по всему миру, а не только в Европейском союзе. Этот шаг направлен на удовлетворение требований EU AI Act, согласно которым поставщики ИИ обязаны маркировать ИИ-созданные или изменённые выводы цифровыми метаданными происхождения. Компания отметила, что водяные знаки будут внедряться на уровне модели и будут перемещаться вместе с текстом при копировании, хотя они могут быть утрачены, если контент будет отредактирован другой системой или удалён из изображений и видео.
"Обнаруженный знак предоставляет сигнал, что контент был обработан Claude, но не является полностью убедительным," объяснила Anthropic в статье поддержки.
Подход выходит за рамки минимального требования закона, которое освобождает от маркировки вспомогательные функции, такие как исправление грамматики. В результате даже небольшие правки, выполненные Claude, могут активировать водяной знак, потенциально помечая текст, написанный человеком, как обработанный ИИ. Критики предупреждают, что знаки легко удалить и они могут быть неправильно поняты пользователями и последующей аудиторией, поскольку наличие водяного знака не гарантирует, что контент полностью сгенерирован ИИ.
Anthropic заявила, что в конечном итоге опубликует инструменты обнаружения, требуемые регуляцией ЕС, но эффективность системы остаётся непроверенной. Компания также признала, что водяные знаки не будут работать на платформах, не поддерживающих необходимые метаданные. Несоблюдение AI Act может привести к штрафам для Anthropic в размере до 15 млн евро или 3 % от глобального дохода.