Нейросети при тщательно проработанном текстовом запросе генерируют достаточно качественные изображения. Зачастую их сложно отличить от творений человека.

Для идентификации изображений, сгенерированных ИИ, нейросети встраивают в них незаметный цифровой водяной знак. Например, Google для своих моделей использует технологию SynthID. Подробности о скрытых знаках, естественно, не раскрываются.

В статье расскажем, для каких целей маркируются изображения ИИ и существуют ли способы удаления таких скрытых водяных знаков.

Как определить, что изображение создано ИИ

Есть три способа: визуальный, посредством чтения метаданных и с помощью AI-детекторов.

Визуально

Сгенерированные нейросетью изображения отличаются от реальных такими паттернами:

• характерные искажения в текстурах, особенности освещения или теней;

• неправильное отражение (в воде, в зеркале);

• отсутствие естественного шума (реальные фото содержат шум сенсора);

• слишком идеальные градиенты, неестественно плавные переходы.

Ошибки в анатомии (многорукие многоноги) и странные пропорции людей, животных, предметов также указывают на искусственный интеллект.

С помощью метаданных

Через форматы EXIF и XMP в изображениях автоматически записывается техническая информация (параметры и настройки камеры, геолокация, данные о редактировании и другие метаданные). Формат IPTC содержит описательную информацию (название, авторские права, подпись и другое), которая заполняется вручную в редакторе.

Все три формата независимы друг от друга и могут присутствовать в файле одновременно. Проверить метки можно в свойствах графических файлов и с помощью специальных программ, например, ExifTool, Adobe Bridge, WildBit Viewer, PhotoME.

В свойствах файла в строке Атрибуты отображается значение AI (искусственный интеллект).

AI-детекторы

Модели-детекторы обучаются на миллионах реальных и сгенерированных изображений, чтобы отличать одно от другого. Нейросетевой детектор проверяет, есть ли в его базе похожие ИИ-сгенерированные изображения. Если обнаруживается совпадение, система помечает картинку как искусственную.

Также AI-детекторы распознают скрытую информацию, которую нейросети встраивают в генеративные изображения. Первым о технологии скрытых меток заявил Google, представив инструмент SynthID для маркировки сгенерированных изображений. Цифровые водяные знаки размещаются среди пикселей. Они незаметны для человеческого глаза, не влияют на качество изображения и определяются специально обученными нейротехнологиями.

Скрытые знаки позволяют отслеживать происхождение контента.

Правовой аспект генерации изображений нейросетями

Относительно изображений, созданных с помощью ИИ, нет единого правового урегулирования. В разных странах законы по-своему трактуют авторские права на генерируемый нейросетью контент. Поэтому следует внимательно изучать пользовательское соглашение, прописанное на ИИ-платформе, которой вы пользуетесь, и проверять лицензию генератора.

Требования и разрешения у нейросетей отличаются. У каждой — свои правила относительно коммерческого использования изображений. При этом с ростом популярности каждая нейросеть всё больше добавляет ограничений. Например, Stable Diffusion на платформе Playground AI на первых порах разрешала использовать все сгенерированные изображения в коммерческих целях, в том числе и на бесплатном тарифе. По мере развития постепенно вводились ограничения на количество бесплатных генераций и ужесточались правила о передаче прав на изображения.

Сегодня использование изображений, созданных искусственным интеллектом, может быть ограничено или запрещено в следующих случаях:

• Нарушение авторских прав. Нейросети обучаются на фотографиях и картинах известных (и не очень известных) художников. Эти произведения изобразительного искусства могут являться объектами авторского права. Если ИИ-генератор создал изображение, слишком похожее на работу реального художника, то использование таких картинок в коммерческих целях может привести к судебным искам. Если художник не давал согласия на использование своих произведений для обучения нейросети, он вправе заявить о нарушении своих авторских прав. Судебные прецеденты уже существуют.

• Незаконный, запрещённый законодательством контент.

• Создание фальшивых документов (паспортов, водительских прав, сертификатов, справок и т. п.).

• Генерация поддельных фотографий для доказательства в суде или СМИ.

• Использование deepfake-изображений для клеветы или шантажа, дезинформации (например, поддельные фото знаменитостей или политиков).

• Нарушение правил ИИ-платформ: когда не соблюдается требование указывать, что изображения созданы искусственным интеллектом.

Поэтому, если вы планируете использовать AI-изображения в коммерческих целях, важно внимательно изучать условия использования нейросетей и учитывать возможные юридические последствия.

Зачем в изображения встраивают скрытые цифровые водяные знаки

Чем совершеннее становятся генеративные нейросети, тем острее встают вопросы этики и безопасности, связанные с использованием AI-контента.

Технические артефакты, которые присутствуют на изображениях после ИИ-генерации (такие, как лишние ноги), можно заранее исключить условиями промпта. И картинка будет выглядеть максимально естественно. А метаданные в файле легко удалить тем же софтом, в котором их можно просматривать.

Поэтому, чтобы обозначить, что изображение создано искусственным интеллектом, нейросети используют алгоритмы, которые позволяют встраивать в изображения скрытые цифровые водяные знаки. Скрытые водяные знаки становятся важным инструментом для маркировки изображений, помогая бороться с нарушением авторских прав, фейками и незаконным использованием сгенерированных материалов.

Можно ли удалить скрытые знаки ИИ на изображениях

Те, кто используют нейрокартинки не только в личных целях, но и в коммерческих, и при этом не скрывают, что изображение создано при помощи искусственного интеллекта, приобретают платную подписку для доступа к генеративным моделям. После оплаты выдаётся лицензия на использование полученных изображений, что гарантирует безопасность с юридической стороны.

А вот те, кто желает выдать результат работы нейросети за своё творение, часто оказываются в числе тех, кто старается найти способы, как обойти систему распознавания ИИ.

В сети предлагаются различные способы удаления скрытых меток ИИ для обхода системы распознавания. Основные способы:

• использование фильтров в графических редакторах (шум, зернистость, размытие и т. п.);

• кадрирование (предполагается, что метки нейросети ставят на краях изображений);

• цветовая коррекция.

Проведём небольшой эксперимент. Создадим в разных генераторах AI-картинки и проверим, как влияют эти «народные» способы преобразования на определение авторства искусственного интеллекта.

Определять, создано изображение человеком или ИИ, будем с помощью AI-детекторов: 

• Undetectable AI

• Hive Moderation

• Illuminarty

Эти сервисы часто упоминаются в различных обзорах, бесплатные и не требуют регистрации. Также нет ограничений на количество проверок.

Для чистоты эксперимента протестируем сначала детекторы на «человеческих» картинках.

Фотография этого жизнерадостного пушистика появилась в интернете задолго до ИИ-генераторов.

Проверим фотографию на AI-детекторах.

Реальную фотографию все три нейросетевых детектора определяют как «человеческую» с высокой долей вероятности (97 – 98%). 

Посмотрим, как обстоят дела с иллюстрациями. Создадим простые картинки в Photoshop (белый фон и кисть).

Детекторы определяют эти картинки, как творчество человека.

Ещё примеры. Иллюстрации нарисованы в Photoshop «с нуля».

Как видим, в изображениях, сходных с паттернами нейросети, детекторы Undetectable AI и Illuminarty усматривают творчество искусственного интеллекта. А вот детектор Hive Moderation верно определяет принадлежность картинки.

А эта акварельная зарисовка была создана в Stable Diffusion и тщательно отретуширована. Вот результаты детекции:

Undetectable AI и Hive Moderation явно указывают на искусственное происхождение, а Illuminarty сомневается.

Далее проверим картинки, созданные нейросетью (Stable Diffusion, бесплатный тариф).

По результатам тестирования можно сделать вывод, что AI-детектор Hive Moderation верно определяет авторство как «человеческих» фотографий и картинок, так и нейросети. Поэтому для эксперимента по удалению скрытых водяных знаков в изображениях ИИ будем использовать именно этот детектор.

Создадим в разных генераторах по одному и тому же промпту простые картинки с лесным пейзажем. Нейросети генерируют весьма реалистичные фотографии природы. Но мы добавим акварельный стиль, чтобы получить не фото, а картинки.

Промпт:

«Акварельный лесной пейзаж, реалистичная вода, солнечный день, нежная атмосфера, высокая детализация, высокое качество».

Выберем нейросети, доступные для пользователей из РФ и с возможностью бесплатной генерации изображений. Бесплатные изображения нельзя использовать в коммерческих целях, только для личного эстетического удовольствия без извлечения прибыли. Логично, что вероятность скрытых знаков в таких изображениях выше.

• ChatGPT

• Flux

• Kandinsky 3.1

• Stable Diffusion

• YandexART

Для манипуляций оставим картинки в тех же форматах, в каких их позволяют скачивать AI-генераторы.

Проверим сгенерированные картинки на детекторе Hive Moderation.

Все акварели определяются, как AI-изображения.

Выполним цветокоррекцию (уровни, кривые, яркость в Photoshop) и обрезку краёв (сделаем все исходные картинки квадратными). Снова пропускаем через детектор.

Теперь переведём изображения в чёрно-белое и посмотрим результаты проверки на детекторе.

Детектор по-прежнему указывает на искусственный интеллект.

Попробуем применить фильтр с размытием.

Как видим, даже после обработки (кадрирования, цветокоррекции, изменения формата) детекторы продолжают распознавать AI-изображения. То есть, помимо распознавания изображений путём сравнения с картинками в базе, AI-детектор определяет какие-то скрытые нейросетевые метки. Эти метки встроены таким образом, что их не убирают манипуляции с картинками.

Попробуем сильно изменить одну из картинок.

Пропускаем через детектор и видим, что всё равно определяются следы ИИ.

Можно, конечно, различными фильтрами добиться такого результата, когда детектор не найдёт признаков ИИ. Но цель изменений — это всё-таки красивая качественная картинка, которая не определяется как результат работы ИИ.

К тому же детекторы ИИ также как и генеративные модели постоянно совершенствуются и могут находить остаточные следы любых скрытых меток.

В будущем, вероятно, появятся способы обхода скрытой маркировки. Но уже сейчас ясно: если ИИ-платформы ограничивают использование сгенерированных изображений, обойти эти правила будет непросто. 

НЛО прилетело и оставило здесь промокод для читателей нашего блога:

-15% на заказ любого VDS (кроме тарифа Прогрев) — HABRFIRSTVDS