arXiv cs.CR· Cathleen Qiao, Layah Vigneaud, Chloe Brandon, Max Cabilangan, Xiyuan Cao, Isaac Khabra, Reva Mahajan, Lena Nguyen, Kyle Pak, Anagh Pandya, Roshni Dave, Peiran Wang·· 3 小时前AI 评分42
论文探讨 AI Agent 系统面临的提示词注入攻击
An Exploration of Attacks on AI Agent Systems
AI 摘要
该研究揭示提示词注入攻击可利用直接用户输入及智能体间通信泄露敏感信息并触发跨智能体感染。测试重点暴露了单智能体系统的漏洞，并将攻击扩展至多智能体框架以验证弱点传播机制。随着 AI 智能体深入实际工作流，研究强调需构建更鲁棒的防御体系。
来源：arXiv cs.CR · arxiv.org