Как Google помечает ИИ-картинки

Погрузился на досуге в теорию SynthID. Это технология, с помощью которой они внедряют невидимые метки в генерируемые изображения — что-то вроде неявного водяного знака.

Это позволяет им надежно классифицировать ИИ-изображения (и естественно, понижать сайты с ними в выдаче, хоть вам этого и не скажут)

Не путать с вотермаркой и метаданными — это все видно глазами и может быть легко удалено.

Часть информации известна из публичных источников, часть спекулятивна. Но вот к каким выводам я пришел.

— Метка вставляется в постпроцессинге отдельным нейросетевым энкодером, без опоры на детерминированные алгоритмы
— Энкодер предпочитает работать на контрастных границах объектов
— Метка избыточна в несколько раз и "голографична" — куска изображения достаточно для восстановления метки всего изображения. Размерность официально 136 бит/512x512px, в реальности нужна x10 избыточность.
— Обнаружить метку по сути невозможно, в паблике нет ни энкодера ни декодера, пространство модификаций огромно, вдобавок, метку хэшируют перед вставкой — нужно искать шум в шуме
— В итоге, удалить метку проще, чем обнаружить
— Метка высокоустойчива к стандартным модификациям изображения - изменения цветов, контраста, яркости, шума, сжатия. Энкодер специально натренирован с их учетом.
— Метка теоретически разрушается в пайплайне со случайной пространственной деформацией изображения (неравномерные сдвиги на 1-2 пикселей) + дальнейшему прогону через Img-to-Img диффузию с денойзингом. Но проверить нельзя (см пункт про обнаружение)
— Натренировать свое подобие внедрения подобной метки относительно несложно. При этом по сути получается передовая стеганография — например, можно вшивать в картинки пароли, и хрен кто их вскроет. То же самое касается обхода DPI анализаторов трафика.

Все это во многом спекуляции, информации в паблике мало. В каментах интересно послушать знатоков, насколько это соответствует действительности.

PS Опенай послал меня нахер с такими разговорами, а вот гемини с удовольствием обсудил как внедрение, так и методы удаления метки 😂