arXiv cs.CR· Simiao Ren, Xingyu Shen, Tommy Duong, Ankit Raj·· 6 小时前AI 评分52
三项实证显示贷款审核员难以识别人工编辑的金融凭证伪造
Can Loan Processors and Underwriters Spot AI-Edited Statements? An Empirical Study
AI 摘要
该研究通过模拟实验发现,在仅基于文档的第一轮审查中,经验丰富的贷款处理人员和承保人几乎无法识别经过 AI 辅助编辑的贷款文件。尽管伪造文件保留了原始金额、日期和余额等关键数值,且故意保留了部分标识符不一致性,三位从业者仍未能有效检出这些伪造内容。实验结果显示,在 132 份文件的判断中,仅有 14 个(约 10.6%)的判断得到了编辑支持,其中 12 个为可疑判断,2 个为信息不足判断。
深入分析证据细节表明,所有被证实的伪造线索均源于文件内部或跨文件的标识符冲突,没有任何视觉线索被报告用于识别实际编辑痕迹。这意味着现有的依赖人工视觉检查的流程在面对保持布局一致但身份被替换的伪造文件时存在显著盲区。由于样本量仅为三个审阅者-文件包对且缺乏真实文件对照,该结果描述的是探索性设置下的现象,而非总体检测准确率。
事实层面,研究确认了当前人工审核机制在特定伪造场景下的失效;推断层面,这暗示单纯依靠人类经验已不足以应对 AI 生成的精细化伪造,必须将自动化的一致性检查与独立来源验证纳入标准流程;猜测层面,若此类伪造技术扩散至信贷审批等高风险领域,可能导致系统性风险增加,但具体影响程度需更多数据支撑。
来源:arXiv cs.CR · arxiv.org