
2026年10月24日,一篇题为《Self-Assessment Reinforcement Learning for Search-State Awareness in Retrieval-Augmented Large Language Models》的论文在arXiv平台首次发布(编号arXiv:2610.30435v1),提出名为Self-Assessment Reinforcement Learning(SARL)的强化学习框架,用于增强检索增强大语言模型中搜索代理对自身搜索状态的感知能力。
现有搜索代理常缺乏搜索状态感知能力,即难以识别哪些信息已被获取、哪些仍缺失,从而引发幻觉推理与搜索过早终止。SARL通过训练阶段内建的自评估机制,使模型自主识别搜索状态并优化搜索行为,且无需在测试时引入额外评估模块。其核心是双奖励设计:既捕捉每次自评估的校正效果,又惩罚对评估的过度依赖,从而协同促进搜索路径的有效性与高效性。
实验显示,SARL相较最强基线实现24.3%的相对性能提升;在多跳推理和深度研究基准上,分别平均超越对应最强单基准基线35.9%和27.9%。值得注意的是,SARL作为独立强化学习框架,不依赖辅助监督信号或多智能体协作,亦无推理时 scaffolding 结构,却仍优于此类方法。此外,在扩展搜索步数导致训练不稳定的场景下,SARL保持稳定性,而现有方法在此类复杂任务中持续退化。