arXiv cs.AI· Jiale Dai, Liuxian Ma, Hongcan Deng, Xiaoke Niu, Wenjing Zhang, Zhaoxiang Liu, Shiguo Lian, Guojie Song·· 6 小时前AI 评分62
LaVGuard 通过选择性解码解决任务相关的上下文价值漂移问题
LaVGuard: Selective Decoding for Contextual Value Drift
AI 摘要
该论文针对内容安全但任务优先级冲突的现象,提出了名为 LaVGuard 的选择性解码方法,旨在显式处理上下文价值漂移(contextual value drift)。该方法将一个授权的十维配置文件与可见前缀中表达的价值估计分离,通过基于配置文件的密度门控机制决定何时评估候选续写,并利用符号进度确定受位置变化和累积 KL 预算限制的 logit 倾斜。
实验数据显示,在 5% 的假阳性率下,配置文件条件化使边界真阳性率(TPR)从 0.58 提升至 0.72;在 0.12 的平均干预比率下,LaVGuard 的风险安全评分达到 0.88,而位置匹配编辑仅为 0.72。这些结果证明了该方法在保持干预范围明确且受限的同时,提升了任务优先级的可执行性。
事实层面,该研究建立了局部代理改进、路径预算可行性和响应分布变化界限的理论证明。推断层面,这种将安全干预量化为“预算”和“门控”的思路,可能改变当前依赖静态规则或黑盒微调的安全对齐范式,转向更精细的动态控制。猜测层面,该方法是否适用于多模态生成或长上下文场景,以及其计算开销对实时推理的影响,仍需进一步验证。
来源:arXiv cs.AI · arxiv.org