SealCall:提出隐私保护型LLM Agent安全审计框架
先了解这件事
2026年11月2日,研究团队在arXiv发布论文,针对LLM Agent调用工具时暴露敏感数据的问题,提出名为SealCall的隐私保护安全审计框架。该框架基于三域审计模型,通过分离委托审计计算与明文访问权限,利用CKKS同态加密进行相似度计算,并结合执行控制机制,实现在不泄露原始数据的前提下完成安全评估。此举旨在解决传统方案需将任务描述、参数及交互历史发送给外部审计方而引发的隐私泄露风险。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- arXiv cs.CRLLM Agent 安全审计新范式:通过加密计算保护用户隐私
该论文针对大语言模型智能体(LLM Agent)在调用工具时可能暴露敏感数据的问题,提出了一种隐私保护的安全审计范式。传统方案需将任务描述、参数和交互历史发送给外部审计方,存在隐私泄露风险;新范式通过将委托的审计计算与明文访问及执行权限分离,实现了在不泄露原始数据的前提下完成安全评估。 研究基于三域审计模型构建了具体框架SealCall,结合学习到的审计表示、基于CKKS的同态加密相似度计算以及绑定到已审计工具调用的执行控制。在1,252个公开二元候选样本上的分组嵌套评估中,SealCall在保留所有明文审计决策的同时达到了0.840的平均F1分数,单次加密评分操作耗时0.176秒。这一结果证明了在引入加密开销的情况下,仍能维持较高的审计准确率。 事实层面,该工作验证了同态加密技术在Agent安全审计中的可行性,并给出了具体的性能指标。推断层面,这种架构可能成为未来企业级Agent部署的标准组件,允许第三方提供审计服务而不必接触核心业务数据。猜测层面,随着合规要求趋严,此类“零知识”或“最小化披露”的审计机制可能会从学术原型转向工业界落地,但具体采用何种加密库及是否支持动态更新仍是未知数。
本事件热度走势
当前热度 9·可比范围峰值 9(11月2日 15:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。