Команда Adobe рассказала о новом проекте, который ведет совместно с Калифорнийским университетом — создании искусственного интеллекта, способного выявлять контент, отредактированный при помощи продуктов компании. Первая разработка в серии, нейросеть под названием CNN, различает изображения, к которым применялся один из популярных фильтров Adobe Photoshop, почти в два раза успешнее, чем средний человек.

Как поясняют в посте представители компании, идея проекта во многом продиктована этическими соображениями. Разработчики Adobe приложили немало усилий, чтобы совершенствовать и популяризировать инструменты для редактирования изображений, аудиоклипов и других типов файлов. Однако одним из последствий их работы стало засилье поддельного контента. Нейросеть CNN — это попытка дать пользователям что-то вроде лакмусовой бумажки для интернет-браузинга.

В представленной разработке реализована малая часть того диапазона возможностей, который Adobe намерена обеспечить в будущем. Нейросеть CNN работает только с изображениями людей и распознает только применение фильтра «Пластика». Данный инструмент был выбран для первой итерации по двум причинам: он пользуется большой популярностью для обработки портретных изображений и вносит в них очень тонкие, точечные изменения, которые человеческому глазу сложно уловить. В частности, фильтр может в значительной степени искажать не только черты, но и выражение лица.

Очерчивая функциональность технологии, авторы перечисляют следующие требования:

• Способность выявлять отредактированные лица с большей точностью, чем люди;
• Способность определять, какие именно изменения были внесены;
• Способность возвращать изображение к его исходному виду.

В процессе составления выборки разработчики отобрали несколько тысяч изображений из Сети и при помощи скрипта обработали каждое из них в Adobe Photoshop. Также был приглашен профессиональный художник, который внес на некоторые фотографии дополнительные коррективы. Искажения были разнообразными: изменялось положение глаз, нос или щеки делались тоньше, шире раздвигались в улыбке губы.



После завершения обучения случайным образом был выбраны пары изображений (оригинал — измененная версия) для тестирования. Параллельно с моделью тест проходила также группа людей, которых предварительно предупредили, что в каждой паре фотографий одна отредактирована. Исследователи хотели выяснить, насколько им удалось выполнить первое из заявленных требований — создать автоматизированную систему выявления подделок, более эффективную, чем человеческое зрение.

Итоги тестирования показали, что цель достигнута: люди давали правильные ответы только в 53% случаев, в то время как CNN определяла исходник с точностью, доходящей до 99%. В прочих отношениях нейросеть также показала «впечатляющие результаты»: она указывала на области, подвергнувшиеся воздействию фильтра, называла примененные инструменты и даже с приемлемой точностью восстанавливала оригинал.

Исследователи признают, что до универсальной волшебной кнопки отмены пока еще далеко — даже при самом оптимистичном сценарии они смогут обеспечить встроенную валидацию такого рода только для контента, который обрабатывался в Photoshop. Тем не менее, они рассчитывают и дальше развивать фотоэкспертизу средствами искусственного интеллекта. «Это важный шаг для выявления визуальных изменений определенного типа, и функция восстановления исходника работает на удивление хорошо, — говорит глава команды разработчиков Гэйвин Миллер. — Помимо таких технологий лучшая защита — просвещенные люди, которые понимают, что фотографии могут представать перед ними в искаженном виде — часто, чтобы их порадовать, но иногда и чтобы обмануть».