跳到正文
原文
arXiv cs.CR· Toluwani Aremu, Jie Zhang, Nils Lukas·· 5 小时前AI 评分68

论文指出水印应作为监控原语评估,因密钥绑定可暴露生成实体身份

Watermarking Should Be Treated as a Monitoring Primitive

AI 摘要

该论文主张将生成模型的水印技术重新定义为“监控原语”,而非仅关注其对抗移除或伪造的鲁棒性。研究发现,即使在水印不编码具体身份的“零比特”配置下,只要每个生成实体持有独立密钥,内部观察者仍能通过检测器将输出关联到特定实体;外部观察者甚至在无密钥情况下也能识别未见过的文本和图像来源。这一结论直接挑战了当前以“不可见性”和“抗篡改”为核心的单一评估范式。

关键证据在于部署选择对安全性的决定性影响:密钥与实体的绑定粒度(是否细粒度区分不同实例)以及检测器的查询权限归属,是现有评测报告普遍缺失的数据。作者指出,当前的基准测试未报告“归属准确率”和“识别准确率”,导致行业误以为水印仅用于合规标记,而忽略了其作为追踪工具的本质风险。这种机制上的漏洞使得水印可能成为泄露模型训练数据、用户行为或商业策略的侧信道。

推论认为,监管框架必须限制密钥与实体的绑定强度及检测器的访问范围,否则水印将从合规工具异化为监控基础设施。事实层面确认了零比特水印在特定部署下仍具备溯源能力;推断层面表明现有评估体系存在重大盲区;猜测层面需警惕未来若检测器权限开放给第三方,可能导致大规模的内容指纹化与隐私泄露。

来源:arXiv cs.CR · arxiv.org