形式化运行时验证工具型LLM Agent安全研究揭示数据缺陷

1. 12:00
   arXiv cs.CR

   形式化运行时验证在工具型LLM智能体上的离线同基准研究显示数据缺陷限制检测精度

   该研究评估了使用一阶度量时序逻辑（MFOTL）对AgentDojo和STAC基准中的攻击轨迹进行离线监控的效果，发现通用义务能拦截71.8%的STAC攻击链和70.1%的AgentDojo成功攻击，但同时也触发了29.3%的正常运行误报。这种不精确性并非源于逻辑本身，而是现有基准数据集缺乏审批记录和 timestamps，导致依赖历史的义务退化为仅检测风险动作类型。 当轨迹包含关系上下文时，溯源策略能提升区分度，但简单的溯源检查极易被植入的一行代码绕过，在原本应被标记的运行中成功率高达94-99%。研究指出，将溯源信息与产生它的查找操作绑定可在零成本下关闭此类规避路径。作者据此量化了当前基准距离理想可信历史状态的差距，并提出了一个包含十二个字段的、可直接用于强制执行的追踪模式。 事实层面，该论文展示了在特定数据条件下形式化监控的有效性边界；推断层面，这意味着当前主流Agent基准的数据结构不足以支撑高置信度的安全审计；猜测层面，若行业不采纳新的追踪标准，基于简单规则的安全护栏将持续面临高误报或被绕过风险。

当前热度 9·可比范围峰值 9（10月8日 14:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。