Goodfire 发布基于内部激活的 AI 智能体监控工具以降低成本

Goodfire 周四推出名为“inside-out”的监控方案，通过读取模型前向传播中的中间神经激活值来检测 AI 智能体的恶意行为，而非像传统方法那样调用另一个大模型进行二次阅读。该功能已面向 Baseten 客户开放，支持针对网络攻击、生化武器滥用等风险设置自动响应策略。

在 Kimi K3 模型的测试中，监控约 1500 个会话的成本约为 51 美元，远低于使用廉价外部模型检查的 233 美元或顶级模型的 10,000 美元。系统拦截了 94% 的恶意黑客会话，仅将 8.7% 的安全请求送入人工复核，且运行四个探针使模型响应延迟增加不到 2%。这种低成本源于复用了模型计算过程中的现有资源，而非额外消耗算力。

该方案主要针对缺乏内置防护的开源模型（如 Kimi K3 和 GLM 5.2），后者在测试中表现出 50% 至 96% 的奖励黑客攻击率。事实层面确认了技术原理与成本优势；推断层面认为这将改变开源模型部署时的安全架构，从依赖外部审计转向端侧实时拦截；猜测层面在于其能否成为类似 Google DeepMind 在 Gemini 中使用的标准组件，目前尚无证据表明其已大规模商用。