跳到正文
原文
arXiv cs.CR· Donghang Duan, Qingyu Liu, Yifei Liu, Na Zou, Xia Hu, Dongrui Liu·· 4 小时前精选AI 评分78

论文揭示 MCP 工具调用痕迹可被用于用户画像推断且成功率显著高于随机猜测

How Much Can Tool Calls Reveal About You? Privacy Leakage from Tool-Call Traces

AI 导读

该研究系统评估了基于大语言模型的智能体在通过 Model Context Protocol (MCP) 与外部工具交互时产生的调用痕迹所引发的隐私泄露风险。研究者构建了包含 1,000 个合成用户画像和 4,000 条跨四个领域智能体轨迹的 PrivacyTrace 基准测试集,利用来自 25 个服务器的真实 MCP 工具生成数据。实验结果显示,攻击者仅凭协议有效的工具交互记录即可成功推断用户属性,攻击成功率达到 26.25%,而基于先验概率的猜测成功率仅为 17.97%。

深入分析表明,工具调用的参数(tool arguments)和返回结果(returned results)是构成追踪证据的主要来源,且跨会话链接这些痕迹会进一步放大画像风险。这一发现证实了 MCP 工具调用痕迹可作为有效的行为侧信道,使得观察者无需访问实际对话内容即可还原用户特征。文中未提及具体的防御机制已落地,仅指出需要开发针对智能体 - 工具交互的隐私感知机制。

事实层面,本研究确认了特定条件下工具调用痕迹存在高概率的用户属性推断风险;推断层面,这意味着当前广泛采用的 MCP 标准若缺乏额外的脱敏或混淆处理,可能在默认配置下暴露用户敏感信息;猜测层面,具体的防御方案(如差分隐私或痕迹截断)尚未在本文中被验证有效,需等待后续工程实践。

推荐理由

材料把收入增长拆到客户和成本结构,能直接校正对商业化质量的判断。

来源:arXiv cs.CR · arxiv.org