DeCompBench 基准测试显示 Agent 在分解攻击下拒绝率显著下降

arXiv cs.CR 论文提出 DeCompBench 基准，专门评估基于大语言模型的智能体在面对分解攻击时的安全性。该研究指出，尽管现有基准已涵盖多轮对话和多工具使用场景，但未能显式捕捉将有害任务拆解为独立良性子任务的攻击形式，导致无法真实反映对抗性执行流程。

实验数据显示，最先进智能体在面对单一整体有害任务时表现出高拒绝率，但在面对被拆解为可执行且看似良性的子任务变体时，拒绝率显著降低，往往无意中实现了恶意目标。这一现象通过自定义分解器验证，证实了“设计即分解”原则下的攻击有效性。

事实层面，该数据集已公开，论文版本于 2026 年 10 月更新；推断层面，当前安全机制存在针对任务拆解的结构性漏洞；猜测层面，未来需开发针对性的防御策略以应对此类隐蔽攻击。