AgentTrace框架以96%准确率识别黑盒LLM代理

该论文提出名为 AgentTrace 的主动框架，旨在解决自主 LLM Agent 来源验证的安全挑战，通过可观测的执行轨迹识别黑盒 Agent 背后的基础模型。该方法在对抗性身份伪造场景下实现了 96.0% 的归属准确率，且能有效抵御提示词混淆和温度缩放等干扰手段。 核心机制在于向刚性工具接口注入结构歧义探针，触发对分词敏感的序列化失败，随后利用后续修复操作的时序序列构建轻量级马尔可夫链进行建模。这种基于多步轨迹的时序修复建模方法，能够显著区分共享相同分词器的同家族变体（如 Llama-3 8B 与 70B），其效果优于无序的行为统计方法。 事实层面，该研究仅针对特定评估集上的模型变体进行了验证，未提及对其他厂商模型的泛化测试；推断层面，该机制可能成为未来 Agent 供应链审计或合规追溯的标准工具；猜测层面，若工业界广泛采用此类探针，可能会迫使 Agent 开发者在工具调用层增加额外的模糊处理逻辑以规避检测。