arXiv cs.CL· Zixuan Liu, Gustavo Didier, Fangzheng Wu, Brian Summa, Zizhan Zheng·2026-10-15 12:00· 5 小时前AI 评分50

Weighted Ensemble 采样框架提升大语言模型罕见事件估计效率

Weighted Ensemble Sampling for Rare-Event Estimation in Language Models

AI 摘要

论文提出训练无关的 Weighted Ensemble (WE) 框架，通过利用内部 LLM 表示作为前缀级信号，在不学习额外提议分布的情况下优化大语言模型罕见事件的概率估计。实验表明该算法在安全相关任务中显著提升了小规模和现代大规模模型的估计效率与可靠性。

来源：arXiv cs.CL · arxiv.org