TSA攻击利用LLM优化工具描述欺骗智能体

该论文提出 TSA（Tool-Spoofing Attack），一种利用大语言模型优化恶意工具描述以欺骗 LLM 智能体的新型攻击方法，在单工具和多工具基准测试中成功率高达 92.13%，且能绕过五种现有的工具 - 恶意软件检测器。 TSA 的核心机制是迭代优化：它从良性工具描述的变体出发，结合反馈函数和对比式上下文学习（contrastive in-context learning），由代理 LLM 生成难以与真实工具区分的恶意描述。实验显示，人类受试者无法区分 TSA 生成的描述与良性描述，证明了其隐蔽性远超依赖关键词或规则的传统攻击手段。 事实层面，该研究证实了工具描述作为智能体决策依据的脆弱性；推断层面，这意味着当前基于静态特征或关键词匹配的安全防护已失效，必须引入动态语义对抗验证；猜测层面，若此类攻击被广泛滥用，可能导致智能体生态中的信任崩塌，迫使行业重新定义工具注册与调用的安全标准。