新基准Cautious Bench揭示智能体护栏过度拒绝问题

该论文提出首个针对智能体护栏过度安全（over-safety）问题的基准 Cautious Bench，旨在解决现有评估难以界定授权动作边界的问题。研究通过构建代码设计样本与标签的机制，使每个标签成为授权策略的机械后果而非标注者主观判断，从而生成 756 个可判定良性/孪生对及 40 个不可判定对，用于衡量真实护栏在决策边界上的表现。 实测五类设计的六个护栏发现显著的“名称迷信效应”：当对象名称看起来吓人时，护栏拒绝合法授权动作的频率显著高于使用良性名称时。由于对比实验中仅对象名称发生变化，这种偏差被归因于护栏读取了表面标签而非授权上下文。这一发现表明当前护栏在语义理解上存在缺陷，容易受非功能性特征干扰。 事实层面，Cautious Bench 提供了可复现的测试集和基于策略的标签推导流程；推断层面，这意味着现有护栏部署可能因名称敏感而阻碍正常业务流；猜测层面，未来护栏可能需要引入更深层的上下文感知机制以区分名称风险与实际行为风险。