TUPLE-Bench揭示决策模型输出字段导致细粒度原因泄露风险

该研究提出 TUPLE-Bench 基准，评估九种模型在类型化决策任务中的隐私与效用权衡，发现即使指令要求隐藏细粒度原因，91.88% 至 99.93% 的响应仍通过直接选择或残差分数泄露原因。当候选集排除原因时，完整输出仍能实现 62.85% 至 75.35% 的原因恢复率，显著高于仅使用选定类别的 51.04% 至 57.64%。 证据显示，虽然完整输出降低了所有 27 个模型 - 任务比较中的下游平均成本，但置信度字段的增加并未一致降低成本却加剧了泄露风险。作者引入工作流约束隐私量化（WCPQ）方法，在保留指定下游工作流行为与成本的同时减少秘密恢复。事实层面确认了输出字段包含非授权信息，推断表明当前默认的输出设计存在系统性隐私漏洞，猜测 WCPQ 可能成为未来决策系统接口的标准审计工具。 产业链推论指向决策类 AI 产品需重新设计输出接口，将字段级审计纳入合规流程；商业上，忽视此问题的服务可能面临更高的数据滥用风险。材料未提及具体行业应用案例，仅基于合成数据验证机制，实际部署效果需进一步实证。