跳到正文
原文
arXiv cs.CR· Yihao Li, Chuanpu Fu, Yizhou Zhao, Miao Chen, Qi Li, Ke Xu·· 4 小时前精选AI 评分80

KnotScryer 通过能力流图分析发现清洁技能组合中的不安全链

Detecting Insecure Compositions of Clean Agent Skills via Capability-Flow Graph Analysis

AI 导读

该论文提出 KnotScryer 框架,用于检测由多个独立清洁技能在运行时编排中组合而成的安全风险。研究发现,尽管单个技能本身无害,但上游技能的输出被传递给下游技能输入时,可能形成违反安全策略的执行链,这种风险源于 Agent 的运行时编排而非单一技能缺陷。

作者在 ClawHub 数据集上分析了 13,598 个清洁技能,构建了技能能力流图(SCFG)以追踪跨技能信息流,并设计了搜索策略定位涉及受保护或不可信数据的路径。实验显示,KnotScryer 识别出 612 个不安全组合,其中 13.7% 的链条完全由单技能扫描器标记为安全的技能组成。在 GLM-5.1 模型上,该方法将利用成功率从基线方法的 16.5%-18.2% 提升至 85.6%,同时将搜索空间缩小了 85.3%。

事实层面,该研究证实了跨技能组合攻击的存在且现有单点检测手段失效;推断层面,这意味着未来 Agent 安全评估必须从静态技能审计转向动态编排验证;猜测层面,若行业广泛采用此类框架,可能会推动 Agent 开发标准增加对“技能组合”维度的强制测试要求。

推荐理由

揭示单技能安全检测无法覆盖的跨技能组合风险,为 Agent 编排层防御提供新基准。

来源:arXiv cs.CR · arxiv.org