跳到正文
原文
arXiv cs.CR· Yuhan Ma, Stefan Schmid·· 4 小时前精选AI 评分78

SecureClaw 论文提出双边界架构以解决 LLM Agent 的未授权行动与数据泄露问题

SecureClaw: Clawing Back Control of LLM Agents

AI 导读

SecureClaw 是一种针对使用工具的 LLM Agent 提出的双边界防御架构,旨在同时解决未授权外部操作和运行时敏感明文泄露两类安全失效。该方案通过可信执行器强制执行授权,并将原始受保护数据隔离在 LLM 运行时之外,敏感读取请求经过可信网关时会被替换为引用 ID,仅释放经过脱敏的规划摘要。写入操作遵循 PREVIEW→COMMIT 协议,确保只有可信执行器能执行策略授权的精确请求,运行时无法直接解析 ID 获取秘密或产生副作用。

在 AgentDojo、AgentLeak 和 Agent Security Bench (ASB) 基准测试中,SecureClaw 是唯一在统一评估框架下同时保留可用任务效用并实现极低攻击成功率的防御方案。具体数据显示,其在 ASB 上达到 0% 的攻击成功率,在 AgentDojo 上为 0.64%,在 AgentLeak 的受攻击对等车道(衡量最终输出和内部中继泄露)上整体泄露率为 3.23%。代码已开源,该论文已被 NeurIPS 2026 接收为海报展示。

事实层面,该架构通过分离规划与执行权限及数据访问路径来阻断攻击面;推断层面,这种设计可能成为未来 Agent 系统安全基线的参考标准,特别是对于涉及高价值数据操作的场景;猜测层面,其实际部署成本取决于可信执行环境的构建难度及网关性能开销,原文未提供具体资源消耗数据。

推荐理由

提出双边界架构与预览-提交协议,在保持任务可用性的同时实现近乎零攻击成功率。

来源:arXiv cs.CR · arxiv.org