Reddit · MachineLearning· /u/Gjuesev·· 3 小时前AI 评分42
在 tau-bench 上测试 LLM 智能体写入前的共形风险控制门
I put a conformal risk control gate between an LLM agent and its write actions on tau-bench. The bound held. The gate didn't beat asking every time [R]
AI 摘要
作者在 tau-bench 零售对话中为 GLM-5.3-Flash 智能体部署了基于共形风险控制的写入拦截门，验证了风险边界在严格设置下成立。实验显示该机制将错误写入率控制在 1.7%（目标 2%），但置信度信号失效，实际仅靠对话步骤位置进行校准。最终结论是拦截门无法超越直接确认所有操作的效果，且模型高置信度无法区分正确与错误操作。
来源：Reddit · MachineLearning · reddit.com