WildFakeToolBench 基准测试显示 Web 来源图像工具可绕过主流 AI 生成图检测器

该研究发布 WildFakeToolBench 基准，包含从 220 个公开来源收集的 156 个可执行图像处理工具，用于评估 LLM 辅助代码翻译如何帮助恶意行为者规避 AI 生成图像检测器。在五个生成器产生的 105 张图像上测试六个最先进检测器，最强单个工具的攻击成功率在各检测器间达到 25.25% 至 100%，超过为每个检测器选定的六个图像处理基线工具的最强表现。

研究发现检测效果具有稀疏性和特定于检测器的特征：候选工具的高覆盖率并不等同于可靠的单次绕过能力；八工具子集池的评估显示，针对每个检测器的最坏情况覆盖率均超过 80%。所有工具均保留来源证据，并通过语法、执行和输出失真检查，且未使用被评估检测器的反馈信息。

事实层面确认了基于网络信息的工具可直接用于对抗检测，推断表明当前检测器在面对非专业用户利用现成工具时存在显著脆弱性，猜测部分在于这种攻击模式是否会成为未来大规模伪造内容分发的标准手段，但原文未明确预测其普及速度或具体商业影响。