В Германии научили нейросеть распознавать дипфейки, создавая их заново

Немецкий Институт оптроники, системных технологий и обработки изображений Фраунгофера (Fraunhofer IOSB) представил систему RealorRender для обнаружения дипфейков, которая использует необычный подход: сначала она пытается заново сгенерировать проверяемое изображение с помощью ИИ, а затем оценивает, насколько успешно это удалось.

Если нейросеть способна точно воспроизвести исходную картинку, это становится одним из признаков того, что она сама была создана другой генеративной моделью. По данным разработчиков, точность системы достигает 91%.

RealorRender сочетает 2 метода анализа. Первый основан на классификации изображения с помощью глубокого обучения, второй — на оценке ошибки реконструкции, то есть различий между исходным изображением и его версией, созданной генеративной моделью. На основе этих данных система рассчитывает вероятность того, что изображение является дипфейком. По словам разработчиков, базовая точность начинается примерно с 85%, а в отдельных случаях превышает 91%.

Изображение сгенерировано: Nano Banana

Ещё одна особенность разработки — объяснение собственного решения. Для этого применяется алгоритм на базе «объяснимого искусственного интеллекта» (XAI — Explainable AI), который показывает, какие области изображения повлияли на итоговый вывод. RealorRender выделяет подозрительные участки в виде тепловых карт и сегментов изображения, позволяя увидеть текстуры, артефакты и другие признаки, характерные для изображений, созданных генеративными моделями.

Разработка появилась на фоне стремительного роста числа дипфейков. По данным британского правительства, расследование 2023 года выявило 276 149 откровенных дипфейков на одном из изученных специализированных сайтов, при этом 96% изображений были посвящены женщинам. Только сайты, предлагающие сервисы «раздевания» людей с помощью ИИ, в сентябре 2023 года привлекли 24 млн посещений. На этом фоне власти Великобритании заявили о планах усилить защиту детей от распространения подобных материалов.

Авторы проекта RealorRender рассчитывают, что сочетание высокой точности и возможности объяснить каждое решение сделает систему более надёжным инструментом для борьбы с дипфейками, которые всё чаще используются для мошенничества, шантажа, сексуальной эксплуатации и других преступлений.

©  iXBT