GenRes++: новый метод обнаружения ИИ-изображений с рекордной точностью

Исследователи представили GenRes++ — фреймворк, способный выявлять изображения, созданные искусственным интеллектом, с беспрецедентной точностью. В отличие от существующих детекторов, этот метод эффективен даже против неизвестных ранее генеративных моделей, что делает его важным инструментом в борьбе с дезинформацией и цифровым мошенничеством. Разработка опубликована в виде препринта на arXiv и уже привлекла внимание специалистов по компьютерному зрению и кибербезопасности.

Как работает GenRes++ В основе GenRes++ лежит нейронная тензорная сеть, которая анализирует остаточные признаки между оригинальным изображением и его преобразованными версиями. Идея заключается в том, что ИИ-сгенерированные изображения оставляют характерные следы, незаметные человеческому глазу, но улавливаемые алгоритмом. Модель учится выделять эти тонкие различия, сравнивая исходное изображение с несколькими его модификациями — например, с изменённой яркостью, контрастом или масштабом.

Ключевое нововведение GenRes++ — обучаемый механизм внимания. Он позволяет фреймворку автоматически определять, какие из преобразований несут наиболее полезную информацию для детекции, и агрегировать признаки именно из них. Это повышает точность и снижает количество ложных срабатываний. В качестве экстрактора признаков используется PE-Core — компонент, который генерирует обобщённые семантические эмбеддинги, устойчивые к вариациям в данных.

Почему существующие детекторы не справляются Современные генеративные модели, такие как Stable Diffusion, DALL-E 3 или Midjourney, создают изображения, которые практически неотличимы от реальных фотографий. Традиционные детекторы часто обучаются на конкретных генераторах и теряют эффективность при появлении новых моделей. GenRes++ решает эту проблему за счёт обобщающей способности: он выявляет общие закономерности, присущие всем ИИ-изображениям, независимо от того, какой программой они созданы.

В ходе экспериментов на нескольких бенчмарках GenRes++ продемонстрировал превосходство над существующими методами, включая такие популярные детекторы, как CNNDetection, LGrad и FreqDetect. Точность обнаружения на тестовых наборах, включающих изображения от неизвестных генераторов, превысила 98%, что значительно выше, чем у конкурентов.

Какие изображения может обнаружить GenRes++ GenRes++ предназначен для выявления статичных изображений, созданных любыми современными генеративными моделями. Он эффективен как для фотореалистичных сцен, так и для художественных изображений. Однако в препринте не рассматривается применение метода к видео или аудио deepfake — это остаётся задачей для будущих исследований.

Кому пригодится новая технология Разработчики систем безопасности смогут интегрировать GenRes++ в свои продукты для автоматической модерации контента. Платформы социальных сетей и новостные агрегаторы получат инструмент для фильтрации фейковых изображений. Исследователи в области компьютерного зрения — эталон для сравнения новых алгоритмов. Наконец, обычные пользователи, которые хотят проверить подлинность изображения, потенциально смогут использовать GenRes++ через онлайн-сервисы.

Ограничения и нерешённые вопросы Авторы препринта не приводят конкретных данных о производительности в реальных условиях — например, на изображениях низкого качества или сжатых файлах. Также не указан процент ложноположительных срабатываний, что критически важно для практического применения. Неясно, насколько устойчив метод к атакам, специально нацеленным на обход детекции. Кроме того, GenRes++ пока не адаптирован для работы с видео, аудио или мультимодальным контентом.

Перспективы развития Исследовательская группа планирует продолжить работу над улучшением обобщающей способности и снижением вычислительной сложности. Возможно, в будущем GenRes++ будет интегрирован в открытые библиотеки для компьютерного зрения, что ускорит его внедрение. Пока же метод остаётся на стадии препринта, но его потенциал уже очевиден: в мире, где ИИ-изображения становятся всё более реалистичными, такие детекторы — необходимый инструмент для сохранения доверия к визуальной информации.