arXiv cs.CR· Mayank Rathee, Alexander Stepanov, Shalin Madabhavi, Jinhao Zhu, Raluca Ada Popa, Ion Stoica·· 4 小时前AI 评分68
Pincer 通过数字孪生模型为 AI Agent 实现动态资源授权与最小权限控制
Pincer: Resource Authorization for Agents using a Digital Twin
AI 摘要
Pincer 是一项针对长周期、自主性强的编码智能体的新型防御方案,其核心在于引入一个隔离上下文的数字孪生模型,用于自动学习并执行动态的用户特定最小权限策略。该研究指出,当前主流部署(如 Claude、Codex)依赖的用户中介沙箱存在策略随时间衰减和权限请求疲劳问题,而自动模式的工具调用分类器则因缺乏用户特异性且难以防御对抗性设置而失效。
评估结果显示,Pincer 在安全性和实用性上均优于包括 LLM 裁判变体和 Conseca(HotOS '25)在内的多个基线模型。特别是在对抗性攻击场景下,Pincer 的设计带来了显著的安全提升;即便在非对抗性攻击类型中,其表现也优于所有对比基线。为了模拟学习阶段,作者构建了一个包含多日用户 - 智能体交互转录的新颖以用户为中心的数据集。
事实层面,该论文提出了基于数字孪生的资源层防御架构,并在 arXiv cs.CR 发布。推断层面,这种机制可能成为未来高自主 Agent 的标准安全组件,填补了工具层防御之外的资源层空白。猜测层面,该方案能否在实际大规模商业产品中落地,取决于其对用户隐私数据的处理效率及与现有自动模式的集成成本,目前原文未提供相关工程细节。
来源:arXiv cs.CR · arxiv.org