跳到正文
原文
arXiv cs.CR· Zhiqing Guo, Lixin Jia, Luning Sun, Xiaowei Chen, Guofeng Yu, Liejun Wang, Gaobo Yang, David Stillwell, Thorsten Holz, Shujun Li·· 5 小时前AI 评分52

人类检测深度伪造人脸图像的能力高度依赖生成模型类型且专项训练更有效

From GAN-Based Models to GPT-5: A Taxonomy-Guided Study of Human Performance in Detecting Deepfake Face Images

AI 摘要

该研究通过在线实验(n=524)和五个月后的追踪测试(n=342),系统评估了人类在检测由GAN、扩散模型及多模态大语言模型(MLLM)生成的深度伪造人脸图像时的表现。核心发现是人类的检测准确率具有强烈的模型依赖性,即不同生成架构产生的伪影特征差异显著,导致识别难度并不完全随模型代际更新而线性增加;更先进的模型(如GPT-5)生成的图像并非更难被察觉。研究团队提出了“深度伪造人脸伪影分类法”(DFAT),并据此构建了通用与模型特定的训练材料。

关键证据显示,经过针对性训练后,参与者的检测性能在所有条件下均有显著提升,但提升幅度因模型而异。数据显示,针对特定生成模型(model-specific)的训练通常比通用训练(general-purpose training)带来更大的数值增益。在五个月的随访测试中,未观察到检测准确率的显著下降或感知压力的显著增加,表明这种基于特定伪影特征的认知训练具有可持续性。值得注意的是,文中明确将GPT-5列为受测的多模态大语言模型之一,用于生成测试样本。

事实层面,本研究证实了人类视觉对特定生成算法伪影的敏感度存在差异,且专项训练能建立长期有效的防御机制。推断层面,这意味着现有的通用反深度伪造培训可能效率不足,未来应转向针对主流生成模型(如GPT-5、扩散模型等)的定制化教育方案。猜测层面,若生成模型持续快速迭代,训练材料库需保持高频更新以覆盖新出现的伪影模式,否则长期有效性可能面临挑战。

来源:arXiv cs.CR · arxiv.org