Anthropic внедрит невидимую маркировку в тексты Claude для соответствия законодательству Европейского Союза

Anthropic начнет идентификацию материалов, созданных Claude, включая тексты, изображения и другие медиафайлы, используя цифровые водяные знаки и метаданные, незаметные для человеческого глаза.

Это изменение является прямым ответом на директивы о прозрачности, установленные Регламентом ЕС об искусственном интеллекте. Эти нормы вступили в силу 2 августа и требуют принятия четких механизмов для обозначения того, был ли контент создан искусственным интеллектом.

Несмотря на то что требование европейское, Anthropic планирует применять эту модификацию в глобальном масштабе, охватывая различные точки доступа к Claude, такие как API, коммерческие приложения и облачные взаимодействия с такими партнерами, как AWS, Google Cloud и Microsoft Foundry.

Компания определит два различных метода идентификации в зависимости от типа создаваемого материала. Для текстов Claude начнет включать водяной знак в структуру ответов, следуя модели, аналогичной SynthID, используемой Google в своих изображениях, сгенерированных через Gemini.

Эти метки не видны в конечном контенте, в отличие от логотипа Gemini на изображениях Google или текста «Meta AI» в редакторах системы компании Марка Цукерберга. Хотя Anthropic не назвала свой знак, он не должен изменять контент и должен оставаться связанным с текстом даже после копирования и передачи в другое программное обеспечение.

Что касается изображений и визуальных ресурсов, идентификация будет осуществляться посредством метаданных происхождения, подписанных цифровым способом, с использованием стандарта C2PA — открытого протокола, уже применяемого такими компаниями, как Adobe, OpenAI и Google.

Стоит отметить, что Anthropic пока не имеет нативных моделей для создания изображений, но может генерировать текстовые файлы в таких форматах, как PNG, JPG или SVG.

Применение этих мер начинается с моделей, выпущенных с даты активации европейских обязательств, то есть системы, доступные после 2 августа, должны иметь активную идентификацию.

Для моделей и продуктов, разработанных до этого срока, Anthropic заявила, что все еще работает над внедрением необходимой поддержки. По данным The Verge, европейское законодательство предоставляет четырехмесячный льготный период для такого рода корректировок.

Кроме того, компания объявила о своем намерении предоставить техническую документацию и собственные инструменты, позволяющие третьим лицам и онлайн-платформам в будущем проверять происхождение контента, созданного Claude.

Однако Anthropic предупреждает, что эти системы идентификации ИИ не являются безошибочными. Например, метаданные по стандарту C2PA могут быть потеряны при отправке в некоторые социальные сети или преобразовании в другие форматы. Сама Anthropic предупреждает о возможности потери водяного знака, если контент будет переписан, переведен или будет слишком кратким.

Еще один примечательный момент заключается в том, что большинство платформ еще не выделяют значительно использование ИИ; например, YouTube и Instagram размещают лишь небольшое указание на возможное использование в дискретных областях своих интерфейсов, и это относится только к изображениям и видео.