Обнаружение дипфейков само по себе является сложной задачей, а объяснение того, почему изображение является поддельным, еще более затруднительно. Исследователи из Института оптроники, систем и анализа изображений Фраунгофера (IOSB) в Германии разработали инструмент, который решает обе задачи, достигая уровня обнаружения от 85% до 91%, согласно заявлению института.
Этот инструмент называется RealorRender и был создан в сотрудничестве с Федеральным ведомством по информационной безопасности Германии (BSI), которое также финансирует данный проект.
Как это работает
Примененный подход является гибридным и новаторским. Вместо использования только традиционного классификатора глубокого обучения, RealorRender объединяет два метода. Во-первых, генератор изображений на основе искусственного интеллекта пытается воссоздать проанализированное изображение. Чем успешнее происходит реконструкция, тем выше вероятность того, что исходное изображение было создано ИИ, поскольку ИИ легче воспроизводит контент, созданный другим ИИ.
Далее модель классификации рассчитывает ошибку реконструкции и выдает оценку подлинности в процентах. Андреас Шпеккер, старший научный сотрудник группы исследований систем безопасности и видеопомощи Fraunhofer IOSB, пояснил в заявлении: «Сначала мы используем генератор изображений на основе ИИ для реконструкции изображения. Затем модель ИИ берет на себя классификацию и выполняет гибридный расчет ошибки реконструкции. В конце мы получаем оценку, которая показывает точность распознавания в процентах».
Чем отличается: объяснение
Простое обнаружение недостаточно. RealorRender также объясняет, почему он классифицировал изображение как поддельное, используя методы объяснимого ИИ (XAI). Надиа Буркарт, руководитель группы объяснимого ИИ в Fraunhofer IOSB, отметила в заявлении: «Характерные текстуры или специфические частотные паттерны могут указывать на синтетическое происхождение изображения. XAI помогает показать, какие характеристики использует модель при принятии решения».
Инструмент применяет два типа визуализации: тепловые карты, которые выделяют области изображения, наиболее повлиявшие на решение модели, и сегментационный анализ, который идентифицирует конкретные семантические зоны (например, лицо, волосы или фон), указывающие на искусственное происхождение.
Почему это важно
Проблема, которую стремится решить RealorRender, имеет огромный масштаб. В 2025 году мошенничества, связанные с дипфейками, превысили 1,5 миллиарда долларов по всему миру. Расследование, проведенное в 2023 году, выявило 276 149 сексуальных дипфейков на одном специализированном сайте, 96% из которых изображали женщин.
Людям крайне сложно отличить аутентичные изображения от подделок. Хотя существуют автоматизированные инструменты, они редко предоставляют объяснения своих результатов, что ограничивает их полезность для журналистов, платформ социальных сетей и служб безопасности, которым необходимо обосновать решения о модерации.
Кто может использовать
RealorRender интегрируется в демонстрационную версию, которая первоначально поможет BSI в выявлении дипфейков. Использование инструмента простое: пользователь загружает изображение, получает результат обнаружения, сопровождаемый объяснением и текстовым резюме.
Исследователи опубликовали два отчета о проекте. Технология потенциально применима для служб безопасности, платформ социальных сетей, медиакомпаний и фотоагентств.


