PrivacyFlow：AI Agent隐私保护与风险评估研究

该论文针对自主 LLM Agent 在多步工作流中泄露敏感数据的问题，提出了 PrivacyFlow 防御框架与 PrivacyBench 基准。PrivacyFlow 的核心机制是将隐私规划（System 2）与任务执行（System 1）分离，在计划阶段追溯数据来源与目的、模拟接收方背景知识及外部推断后果，从而将每次数据共享视为结构化风险管理问题。实验显示，该方法在六个模型上将步骤级隐私失败显著降低，使无违规的任务序列完成率提升了 22 至 55 个百分点。 材料中的关键证据来自新构建的 PrivacyBench 基准，包含 986 个动态环境更新的任务序列和 5873 个具体任务，其允许集基于情境完整性（Contextual Integrity）原则。研究揭示了一个新的隐私 - 效用 - 自主性权衡：当系统对不确定性采取主动提示用户的策略时，虽然授权任务完成率增加，但决策责任被重新转移回用户身上。这一发现表明，单纯的自动化拦截并非最优解，需根据场景平衡系统自主性与人工干预成本。 事实层面，该研究验证了分阶段隐私规划在多步 Agent 任务中的有效性；推断层面，这意味着未来 Agent 架构设计需内置类似“慢思考”的隐私审查模块，而非仅依赖事后过滤；猜测层面，这种权衡机制在实际商业部署中可能面临用户疲劳风险，导致长期采纳率下降，但这需要更多实证数据支持。