跳到正文
AI NEWS JOURNAL
arXiv cs.CLAI NEWS / JOURNAL

新研究发现:强化学习中的现有Critic可直接复用为大语言模型置信度估计器

一篇于2026年10月26日发布在arXiv(编号2610.31820v1)的AI研究论文指出,针对采用基于价值的强化学习(value-based RL)训练的大语言模型(LLMs),其已有的Critic模块无需额外训练或数据即可作为高精度、高校准性的置信度估计器使用。

一篇题为《Free Lunch for LLMs Confidence: The RL Critic Already Knows》的研究论文于2026年10月26日发布在arXiv预印本平台(编号2610.31820v1),提出了一种无需新增训练即可提升大语言模型(LLM)置信度估计能力的新方法。

研究发现,在基于正确性结果定义的强化学习框架下,LLM的置信度估计问题与Critic的价值函数学习在数学上等价——二者均旨在预测策略响应正确的概率。因此,对于已采用价值型RL训练的LLM,其内置Critic可直接作为现成(off-the-shelf)的置信度估计器,无需访问模型内部表征,也无需额外数据或计算开销。

实验表明,该复用方案在数学、代码生成、工具调用及通用推理等十余个领域中,于所有分布内(in-distribution)测试集上均取得最优置信度估计性能,并在16个评估子集中的14个上实现最佳校准度,且完全不损害原有任务性能。Critic还能在生成全过程(包括中间推理步骤)提供细粒度置信度输出。

该成果为LLM可信部署提供了轻量、即插即用的技术路径,但其适用范围明确限定于采用价值型强化学习训练的模型,且结论基于论文所报告的实验设置与评估协议。

资料来源

arXiv cs.CL

相关主题

← 继续阅读全部动态