端侧少样本LoRA微调致OOS拒识下降，Mahalanobis距离可修复

该论文指出，在端侧设备上通过 LoRA 进行少样本微调以适配新用户指令时，虽然能保留在域内（in-scope）的准确率，但会导致模型对域外（OOS）输入的拒识能力显著下降。作者在五个公开意图分类基准上验证，这种 naive 微调策略使 OOS 拒识的 AUROC 平均下降了 0.055 至 0.258，且这一现象并非完全由标准置信度评分器（confidence scorer）的校准偏差引起，而是存在真实的嵌入空间变化。 深入分析显示，微调过程导致已知意图区域周围的嵌入边距（embedding margin）发生可测量的收缩（pooled Spearman rho=0.61），这是拒识性能下降的根本原因。针对这一问题，作者提出了一种无需额外训练或重训的低成本部署方案：将拒绝判据从 softmax 置信度改为 Mahalanobis 距离。实验表明，该方法在三个数据集上恢复了大部分丢失的质量，优于另外两个 OOD 评分基线，且在少样本数量、LoRA 秩和基础编码器类型上均表现出泛化性。 事实层面，该研究确认了端侧个性化微调与拒识能力之间的负相关关系，并验证了 Mahalanobis 距离作为替代评分指标的有效性。推断层面，这意味着当前广泛采用的端侧个性化流程若仅关注新指令的学习效果，可能忽视了对未知意图的安全拦截风险。猜测层面，若行业继续依赖 softmax 置信度作为主要风控手段，可能在大规模部署后面临误报率上升或恶意输入绕过的问题，需重新评估端侧模型的校准策略。