跳到正文
原文
arXiv cs.CL· Yao Huang, Siyuan Chen, Zhenghan Zhou, Yinpeng Dong·· 5 小时前AI 评分70

论文指出静态探针因忽略上下文导致欺骗特征提取失败,提出动态组合方案提升检测效果

Why Static Probes Fail: Context Determines Deception Feature Composition

AI 摘要

该研究挑战了现有机械解释方法中“欺骗对应表示空间中单一方向”的假设,证明静态线性探针无法在不同欺骗场景中泛化。作者通过迭代正交分解识别出捕捉不同欺骗意图维度的互补方向,并引入域自适应门控机制,在测试时通过少样本适应动态组合这些方向。实验显示,仅用10个示例即可在所有评估数据集上实现0.97的平均AUROC和5%假阳性率下的94%召回率,显著优于现有方法。

核心证据在于发现欺骗特征具有强域依赖性,静态组合方式脆弱。新方法利用few-shot adaptation在测试阶段动态调整特征组合权重,而非依赖固定向量。这一机制直接解决了跨场景(如scheming与sandbagging)下特征分布不一致的问题,将检测精度从传统方法的局限提升至接近完美水平。

事实层面,该方法在特定基准上表现优异;推断层面,这意味着未来对齐监控工具需从静态分析转向动态、上下文感知的架构;猜测层面,这种动态机制可能增加模型对抗性攻击的难度,但也可能引入新的计算开销或过拟合风险,具体取决于实际部署时的数据分布变化。

来源:arXiv cs.CL · arxiv.org