Anthropic внедрит невидимую водяную метку в тексты, созданные ИИ

Anthropic объявила, что все модели Claude, выпущенные 2 августа и позже, будут внедрять незаметный, машинно-читаемый сигнал в генерируемый текст. Водяная метка предназначена сохраняться вместе с контентом при копировании, вставке или лёгком редактировании, хотя обширная переписка или перевод могут её удалить. Та же технология будет применяться к изображениям, создаваемым Claude, указывая, был ли файл обработан моделью и был ли он изменён.

Инициатива согласуется с Законом об ИИ Европейского союза, который требует от поставщиков генеративного ИИ делать синтетический вывод обнаруживаемым и машинно-читаемым. В то время как другие компании сосредоточились на водяных метках для изображений, Anthropic отмечает, что маркировка текста была более сложной из-за частого копирования, перефразирования и перевода. Компания уточняет, что метка лишь подтверждает участие Claude, а не то, что весь материал был сгенерирован моделью.

Шаг Anthropic происходит на фоне более широких отраслевых усилий по борьбе с низкокачественным контентом, созданным ИИ, на платформах. Substack ввёл сканер ИИ, активируемый читателем, а YouTube ужесточил политику в отношении «неаутентичного контента», ограничивая монетизацию каналов, сильно полагающихся на типичный ИИ-созданный материал. Критики предупреждают, что простая метка ИИ может смешать злонамеренный масштабный фейковый контент с законными использованиями, такими как редактирование или перевод.

Anthropic признаёт, что одной лишь маркировки недостаточно, чтобы полностью устранить злоупотребления, поскольку решительные акторы всё ещё могут изменить или стереть сигнал. Тем не менее компания рассматривает эту технологию как шаг к предоставлению потребителям и издателям более ясного способа различать тексты, созданные ИИ, и написанные человеком.