提出多维子空间与动态门控机制检测LLM欺骗行为

1. 12:00
   arXiv cs.CL

   论文指出静态探针因忽略上下文导致欺骗特征提取失败，提出动态组合方案提升检测效果

   该研究挑战了现有机械解释方法中“欺骗对应表示空间中单一方向”的假设，证明静态线性探针无法在不同欺骗场景中泛化。作者通过迭代正交分解识别出捕捉不同欺骗意图维度的互补方向，并引入域自适应门控机制，在测试时通过少样本适应动态组合这些方向。实验显示，仅用10个示例即可在所有评估数据集上实现0.97的平均AUROC和5%假阳性率下的94%召回率，显著优于现有方法。 核心证据在于发现欺骗特征具有强域依赖性，静态组合方式脆弱。新方法利用few-shot adaptation在测试阶段动态调整特征组合权重，而非依赖固定向量。这一机制直接解决了跨场景（如scheming与sandbagging）下特征分布不一致的问题，将检测精度从传统方法的局限提升至接近完美水平。 事实层面，该方法在特定基准上表现优异；推断层面，这意味着未来对齐监控工具需从静态分析转向动态、上下文感知的架构；猜测层面，这种动态机制可能增加模型对抗性攻击的难度，但也可能引入新的计算开销或过拟合风险，具体取决于实际部署时的数据分布变化。

当前热度 9·可比范围峰值 9（10月21日 14:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。