arXiv cs.CR· Paschalis Bekos, Billy Tsouvalas, Nick Nikiforakis, Michalis Polychronakis·· 6 小时前精选AI 评分78
21 个 AI 聊天平台向第三方泄露对话标题及用户提示词
Penny for Your Prompts: A Measurement Study of Contextual Leakage in AI Chat Platforms
AI 导读
该研究对 42 个通用及垂直领域(医疗、法律、教育)的 AI 聊天平台进行系统性测量,发现 21 个平台将对话标题泄露给第三方追踪器,9 个平台直接泄露用户原始提示词。研究通过浏览器 JavaScript 引擎层面的仪器化分析,精确归因了触发数据流的用户操作和 DOM 捕获机制,揭示了传统网络层拦截无法发现的上下文泄露通道。
除了内容泄露,研究还观察到大量平台将用户邮箱发送给第三方追踪器,使得对话上下文能够与用户真实身份关联。这种泄露源于平台嵌入的第三方分析、广告和会话回放脚本,它们在后台静默运行并获取聊天界面数据。作者指出,这种架构设计使得用户在期望隐私保护的场景下,实际上暴露了高度敏感的个人信息和交互内容。
事实层面确认了特定数量平台的泄露行为及数据流向;推断表明当前 AI 聊天平台的隐私保护机制存在结构性缺陷,过度依赖第三方脚本可能成为主要攻击面;猜测部分涉及未来监管可能针对此类“静默”数据流制定更严格的披露要求,但具体政策尚未在材料中提及。
推荐理由
研究揭示第三方脚本可窃取对话标题与原始提示词,直接修正对 AI 平台隐私边界的认知。
来源:arXiv cs.CR · arxiv.org