Anthropic начала внедрять в Claude незаметные для человека водяные знаки. Нововведение связано с требованиями закона Евросоюза об ИИ по повышению прозрачности контента
Фото: Zuma/TASS
Anthropic начала внедрять в новые модели Claude функцию, вставляющую незаметные для человека водяные знаки в тексты и файлы, созданные ИИ.
Водяные знаки не меняют смысл и внешний вид текста и сохраняются при копировании. Потенциально это должно помочь издательствам, школам и университетам выявлять материалы, написанные с помощью искусственного интеллекта.
Нововведение связано с требованиями закона Евросоюза об ИИ по повышению прозрачности контента.
Шаг для Anthropic предсказуемый, но вряд ли он полностью защитит от незаметного использования искусственного интеллекта, поскольку любые ограничения находят свое противодействие, говорит управляющий директор Angel Relations Group Алексей Карлов:
Алексей Карлов управляющий директор Angel Relations Group «Различные компании, которые производят нейроконтент, нейросети, пытаются маркировать уже пару лет, может быть, и больше. Вставляют специальные маркеры в изображения, видео, в тексты. Множество было попыток вставить небольшие символы невидимого свойства, грубо говоря, белого цвета, когда все остальные буквы, выражения, цифры, знаки — черные. Это общая тенденция к тому, чтобы помечать, что сделали люди, а что — машины. Кроме того, это ответ на все повторяющиеся, учащающиеся запросы властей, чтобы нейроконтент был маркирован, возможно, для будущих налогов, а может быть, и настоящих. Возможно, для того, чтобы население могло различать, кто сделал тот или иной контент. Ведь известно же, что у любой нейросети есть определенный процент галлюцинаций. В любом случае, если вы знаете, что это нейроконтент, то это дополнительный звоночек для того, чтобы провести фактчекинг, который будет отнюдь не лишним. Почему Anthropic это делает сейчас? Ну просто потому что подходящее время. Может быть, она пытается немного опередить компанию OpenAI и остальных конкурентов. Может быть, потому что в конце лета традиционно готовятся новые законы, а может быть, потому что время пришло. Но, повторюсь, это отнюдь не новая мера. Попытки предпринимались и предпринимаются регулярно. Возможно, сейчас они станут более стандартизированы, чего, собственно, не хватает всей сфере генеративного контента, нейросетей, машинного обучения. Но как только какая-то инициатива становится более-менее стандартной, понятно, как ее обходить, что, скорее всего, со всеми подобными вещами и будет».
Из крупных компаний первой маркировку ИИ-контента в 2024 году ввела Google DeepMind для созданных в приложении Gemini и его веб-версии текстов, изображений и видео. Но одно из недавних исследований показало, что водяной знак терялся в 98% случаев после того, как исходный текст перефразировали. Так что рассчитывать на водяные знаки как на стопроцентный способ определить, что человек использовал ИИ, пока затруднительно.
