arXiv cs.CR· Atharv Singh Patlan, Peiyao Sheng, S. Ashwin Hebbar, Prateek Mittal, Pramod Viswanath·· 1 天前精选AI 评分82
论文发现多用户协作语言智能体存在跨用户注入漏洞且通用摘要防御无效
Cross-User Poisoning: User-Task Boundary Failures in Multi-User Collaborative Language Agents
AI 导读
该研究识别出一种名为跨用户注入(CUP)的新型攻击,针对从单用户助手转向共享协作者的语言智能体。在 Slack、Workspace 和 Airline 等场景中,攻击者向共享上下文注入消息,导致智能体在服务良性用户时执行了超出指令范围的未经授权操作。研究在 Continua 和 ElizaOS 两个已部署的多用户智能体上验证了 CUP,其攻击成功率显著高于匹配的提示词注入攻击,且影响会持续存在于后续交互中。
评估显示,仅依赖上下文摘要的边界范围防御不足以阻止此类攻击,而任务聚类和溯源提示能大幅降低非自适应传播。这表明现有的输入过滤或上下文压缩方法在多用户并发交互环境下存在根本性缺陷,无法解决智能体在多个用户与任务间决策权限的边界问题。
事实层面,CUP 已在特定框架中被复现并证明有效;推断层面,当前主流的多用户 Agent 架构若缺乏显式的用户/任务隔离机制,将面临系统性安全风险;猜测层面,未来行业可能被迫从通用的上下文管理转向更复杂的任务聚类与溯源技术,但这会增加工程复杂度。
推荐理由
揭示多用户协作场景下跨用户注入攻击机制,指出上下文摘要防御无效,需显式任务边界控制。
来源:arXiv cs.CR · arxiv.org