结构化局部差分建模:让AI生成图像检测不再被语义主导

快速导读:RippleNet通过选择纹理复杂与简单区域、构建多方向多尺度邻域差分表示,并在差分token空间中进行注意力建模,以抑制语义主导、增强低SNR伪造痕迹的跨生成器泛化检测。

AI生成图像检测的核心难题在于:训练时模型容易被高信噪比(SNR)的语义成分主导,从而压制与生成机制相关的低SNR伪造痕迹。RippleNet从信息瓶颈视角出发,认为高SNR语义结构更易拟合,会挤占低SNR伪造线索的学习空间,导致跨生成器泛化受限。

本文提出的RippleNet包含三个模块:Forgery Sensitive Patch Selection(FSPS)基于Total Variation(TV)能量选择纹理复杂patch(TCP)和纹理简单patch(TSP);Structured Differential Artifact Modeling(SDAM)构建8方向、L步的邻域差分表示,经Directional Ring Convolution(DRC)和Hierarchical Attention Fusion(HAF)细化;Forgery Aware Encoder(FAE)将差分描述子token化,用Frequency-Guided Cross-Attention(FGCA)注入DWT高频先验,再以multi-head self-attention建模token间依赖,最后双分支融合分类。

英文题目:Structured Local Differential Modeling for AI-Generated Image Detection

论文出处:arXiv 每日论文精选 · arXiv:2608.12811

原始论文:PDF / 论文页面

这篇论文解决什么问题?

现有检测方法大致分为语义空间方法和低层统计方法。语义空间方法如UnivFD、C2P-CLIP、Effort依赖高层表示,易与训练语义纠缠;低层统计方法如NPR、FerretNet虽更接近生成机制,但图像级聚合仍保留内容纹理,削弱微弱伪影。

从信息瓶颈(Information Bottleneck, IB)视角看,高SNR语义结构在训练中更易拟合,会压制低SNR伪造线索的学习。这一现象在跨生成器测试中尤为明显:模型记住了训练生成器的语义特征,却无法迁移到未见生成器的伪造痕迹。

图1通过Wiener–Khinchin定理展示了真实与生成图像在复杂和简单patch上的自相关差异:真实图像在复杂区域呈现清晰方向结构,在平滑区域呈现轻微噪声波动;生成图像往往缺乏方向连续性,在平滑区域呈现过度平滑、径向对称的响应。这为选择纹理复杂与简单互补patch提供了直观依据。

核心创新

  • 从信息论视角提出抑制高SNR语义主导、增强低SNR伪造痕迹的检测新视角
  • 提出FSPS选择纹理复杂与简单互补patch,避免全图聚合混合弱伪影与强结构响应
  • 提出SDAM构建多方向多尺度邻域差分表示,显式刻画邻域统计异常
  • 提出DRC建模8方向循环依赖,HAF自适应融合多尺度证据
  • 提出FAE在差分token空间进行注意力建模,并以FGCA注入DWT高频先验

方法概览

RippleNet包含三个模块:Forgery Sensitive Patch Selection (FSPS)基于TV能量选择纹理复杂patch (TCP)和纹理简单patch (TSP);Structured Differential Artifact Modeling (SDAM)构建8方向、L步的邻域差分表示,经Directional Ring Convolution (DRC)和Hierarchical Attention Fusion (HAF)细化;Forgery Aware Encoder (FAE)将差分描述子token化,用Frequency-Guided Cross-Attention (FGCA)注入DWT高频先验,再以multi-head self-attention建模token间依赖,最后双分支融合分类。

  • FSPS基于TV能量度量局部纹理复杂度,选择TCP和TSP两类互补patch。TCP提供强结构下的伪造证据,TSP提供平滑区域的微弱伪影证据,避免全图聚合混合弱伪影与强结构响应。
  • SDAM在每个空间位置构建8方向、L步的邻域差分表示,显式刻画邻域统计异常。DRC建模8方向循环依赖,HAF自适应融合多尺度差分特征。
  • FAE将差分描述子token化,在差分token空间进行multi-head self-attention建模,使模型直接关注伪造痕迹的统计依赖,而非语义内容。
  • FGCA在FAE中注入DWT高频先验,通过频率引导交叉注意力强化高频伪造线索。图8右侧消融显示DWT-HH优于Sobel、Laplacian、DCT、FFT等高频提取方式。
  • 双分支结构分别编码TCP和TSP,最后融合分类,使两类互补证据在决策层面协同。
  • 图2对比了NPR、FerretNet与RippleNet的伪造表示:前两者构建图像级线索,卷积聚合削弱微弱伪影;RippleNet将邻域差分响应编码为独立token,直接在token空间建模依赖。

逐图理解论文

失败案例与直觉

失败案例与直觉
Figure 1: Autocorrelation differences between real and generated images in complex and simple patches. Based on the Wiener–Khinchin theorem, real images exhibit clear directional structures in complex regions and slight noise fluctuations in smooth regions, whereas generated images of- ten lack directional continuity and display overly smoothed, radially symmetric responses in smooth regions.

观察真实与生成图像在复杂和简单patch上的自相关差异:真实图像复杂区域有清晰方向结构,生成图像缺乏方向连续性且平滑区域过度平滑。这为FSPS选择互补patch提供了动机。

研究缺口

研究缺口
Figure 2: Comparison of forgery representations from NPR (Tan et al. 2024b), FerretNet (Liang et al. 2025), and RippleNet. NPR and FerretNet construct image-level cues from local correlations or filtered noise, which may retain semantic textures and weaken subtle artifacts during convolutional aggregation. In contrast, RippleNet encodes neighborhood differential responses as independent tokens and models their dependencies directly in the token space.

对比NPR、FerretNet与RippleNet的伪造表示:前两者在图像级聚合中保留语义纹理,RippleNet将邻域差分响应编码为独立token,直接在token空间建模依赖,避免卷积聚合削弱微弱伪影。

核心贡献与方法

核心贡献与方法
Figure 3: Overview of RippleNet. Forgery Sensitive Patch Selection module analyzes local texture complexity to select Texture-Complex Patches (TCPs) and Texture-Simple Patches (TSPs) that provide complementary forgery evidence, and extracts their high-frequency compo- nents via DWT for subsequent modeling. Structured Differential Artifact Modeling module constructs multi-directional and multi-scale differential representations at each spatial location and refines them through Directional Ring Convolution (DRC) and Hierarchical Attention Fusion (HAF). Forgery Aware Encoder independently encodes the two patch types, incorporates high-frequency guidance as a frequency- domain prior, and employs multi-head self-attention to progressively model dependencies among differential tokens.

RippleNet整体架构:FSPS选择TCP和TSP并提取DWT高频分量,SDAM构建多方向多尺度差分表示并经DRC和HAF细化,FAE独立编码两类patch、注入高频先验并用MHSA建模差分token依赖。

验证与证据

验证与证据
Table 1: Comparison of RippleNet and other forgery detection models on the GenImage Bench- mark in terms of ACC (%). All methods are trained on SDv1.4. Bold indicates the best result, and underline denotes the second-best.

在GenImage上只用SDv1.4训练、跨八个生成器测试,RippleNet的平均准确率达到94.4%,所有生成器都不低于88.2%。消融实验更说明问题:只用纹理复杂patch或只用纹理简单patch,平均准确率分别跌到78.4%和82.4%,证明两类patch的互补性不可或缺。移除Directional Ring Convolution或Hierarchical Attention Fusion分别降低3.3和4.2个百分点,移除Frequency-Guided Cross-Attention则从94.4%降到91.2%。

结论与意义

结论与意义
Table 7: Evaluation under common post-processing on GenImage in terms of AP (%). None of the methods uses post-processing augmentation during training. Bold and underline denote the best and second-best results, respectively.

后处理鲁棒性对比显示RippleNet在Clean条件下AP最高,但在JPEG和Gaussian Blur下性能下降明显,揭示了方法的鲁棒性边界。

实验如何设计?

  • GenImage Benchmark:SDv1.4训练,跨8个生成器测试ACC。
  • DeepFaceGen Benchmark:官方7:1:2划分,12种人脸生成方法AUC评估。
  • DiffusionForensics Benchmark:GenImage/SDv1.4训练,跨8个扩散生成器测试ACC和AP。
  • COSPY Benchmark:GenImage/SDv1.4训练,测试5个2024年后新生成器ACC。
  • Ojha数据集:GenImage/SDv1.4训练,跨模型测试ACC和AP。
  • 消融实验覆盖FSPS、SDAM(DRC/HAF)、FGCA各组件贡献,以及patch大小、patch数量、选择策略、步数L等超参数。

关键结果与论文证据

  • GenImage平均ACC 94.4%,超过最强基线CKNNA 2.4个百分点,所有生成器ACC不低于88.2%(第5页)。
  • DeepFaceGen平均AUC 95.12%,12种生成方法上表现稳定(第6页)。
  • DiffusionForensics平均ACC 89.0%、AP 98.2%,比Effort提升ACC 1.3、AP 0.9个百分点(第6页)。
  • COSPY平均ACC 92.2%,超过FerretNet 2.6个百分点,5个生成器中4个最优(第6页)。
  • Ojha数据集平均ACC 93.7%、AP 98.6%(第12页)。
  • 仅用TCP或TSP时平均ACC降至78.4%和82.4%,证明两类patch互补的必要性(第6页)。
  • 移除DRC或HAF分别降低ACC 3.3和4.2个百分点,同时移除降低6.1个百分点;移除FGCA使平均ACC从94.4%降至91.2%(第7页)。
  • 后处理鲁棒性:Clean AP 99.7%,优于NPR(95.8)、FerretNet(99.0)、Effort(97.9)(第13页)。

阅读时需要注意

  • JPEG压缩(Q=75)下AP降至54.8%,鲁棒性仍有限。
  • Gaussian Blur(K=5)下AP降至74.3%,弱于Effort的82.2%。
  • 论文未报告推理时间或FLOPs,仅给出参数量对比。
  • 理论分析为简化频率视角,未严格证明信息瓶颈下语义主导的必然性。
  • 所有方法均在GenImage/SDv1.4上训练,跨数据集结论受训练分布限制。

关联工作

  • NPR和FerretNet代表低层统计空间方法,但图像级表示保留语义纹理,卷积聚合削弱微弱伪影。
  • UnivFD、C2P-CLIP、Effort、VIBNet代表语义空间方法,依赖高层表示,易与训练语义纠缠。
  • DIRE、STD-FD代表重建误差方法,刻画扩散重建分布偏差,但计算开销较高。
  • AIDE、CO-SPY、ForensicConcept、TranX-Adapter代表语义-伪影融合方法,试图整合两类线索但未从根本上解决语义主导问题。

发表评论