PAPERS, PLEASE

У текста появился паспорт. Без фотографии и прописки, зато с невидимой печатью. Практически фан id.

Anthropic начала встраивать в ответы своей нейросети Claude машиночитаемые водяные знаки. Человеческим глазом их не заметить, обычным копипастом не снять, а часть правок они cмогут пережить. Метка встроена в саму модель: Брюссель принял правила для Европы, а маркировать ими Anthropic будет весь мир.

Спасибо AI Act. Со 2 августа европейские правила требуют, чтобы у продукции нейросетей оставался встроенный цифровой след.

Закон, как водится, местный (в пределах ЕС), но последствия экспортные. Мы уже писали о давлении самой большой конфедерации на цифровых гигантов и о том, как комплаенс меняет продукт для всего мира.

ВАШУ ЦИФРУ! У фотографии давно есть EXIF, у автомобиля VIN, у товара штрихкод. Теперь документы о происхождении понадобились и буквам.

Не совсем пока ясно, как он будет работать. Вы,к примеру, написали статью сами, а Клод попросили убрать канцелярит и причесать запятые. В таком случае метка обязательно появиться. ЧАТ ГПТ написал всё за вас, Вы потом просто переписали текст в Ворде  - никакого клейма в таком случае не будет.

То есть водяной знак не отвечает на вопрос «кто автор?». Он лишь маякует: товарищ Жан Клод Ван Дам здесь был и приложил руку.

И Anthropic не одинока. Google ещё в 2024 году внедрила SynthID для текстов Gemini. То, что вчера было лишь экспериментом, сегодня становится правилом игры: нейросеть должна оставлять на своей работе цифровую подпись. Как иконописцы, только наоборот: никаких имяреков.

В России пока проще. Принятый закон с 2027 года предусматривает лишь  возможность маркировать созданные ИИ аудио и визуальные материалы. До текста российский учёт пока лапки свои не протянул.
Написанное пером по-прежнему не вырубишь топором. Время диктует необходимость выяснить, кто держался за перо: человек или нейросеть.

И не только он. Программы по определению нейросгенерированного текста справляются всё хуже и хуже, так как совершают много ошибок. Лучший способ решить вопрос определения авторства это возложить его непосредственно на языковую модель.

Но обойти такую печать будет слишком легко.