SAFE-Mem 通过细粒度治理标签与感知检索提升 Agent 内存安全性

该论文针对 LLM Agent 依赖持久化记忆时面临的未授权主张被误作偏好或权限的安全风险，提出 SAFE-Mem 框架以解决现有基于内容过滤或粗粒度溯源方法无法兼顾安全与可用性的问题。SAFE-Mem 为每条声明标注三种治理标签（类型、权限、范围）以捕获来源与允许用途，并通过治理感知检索匹配查询需求与声明权限，从而阻断未授权影响而保留合法信息。

在 MPBench 和 LoCoMo 基准上，该框架在四种 LLM 骨干模型中实现了最低的未授权攻击成功率，比最强防御方案至少低 77%，同时在所有评估防御方案中获得最高的回答准确率，提升幅度达 15%。其核心机制依赖于治理启用的内存图结构，连接源句子、声明与实体，支持高效的溯源追踪与检索。

事实层面，该研究明确区分了原子声明与授权偏好，并验证了在特定基准下的性能指标；推断层面，这种细粒度治理机制可能成为未来 Agent 长期记忆系统的标准组件，尤其适用于需要高可信度的多轮交互场景；猜测层面，若该框架能适配动态环境中的实时策略变更，其实际部署效果可能优于当前静态评估结果。