
2026年10月24日,一篇题为《ReflectPO: Reflection-Guided Policy Optimization for Long-Horizon LLM Agents》的研究论文在arXiv平台发布(编号2610.30933v1),提出Reflection-Guided Policy Optimization(ReflectPO)——一种专为长周期、工具增强型大语言模型(LLM)代理设计的强化学习框架,用于实现自主错误恢复。
ReflectPO包含两大核心组件:一是‘反思引导采样’(Reflection-Guided Sampling),利用交互轨迹中的分支差异与重复访问模式生成错误恢复提示;二是‘树结构信用分配’(Tree-Structured Credit Assignment),将采样轨迹组织为树结构,并基于父子节点奖励差与恢复增益进行动作级信用评估。实验在两个长周期工具使用基准上开展,结果显示ReflectPO在多数领域超越现有多个基线方法,并取得平均最优整体性能。进一步分析表明,该框架可有效提升代理识别自身行为偏差、从错误状态中恢复、并持续推进任务完成的能力。
需注意:该成果目前仅以arXiv预印本形式公开(非同行评议期刊/会议正式录用),实验限于特定工具使用基准,未披露具体数据集名称、基线模型细节或真实环境部署结果。其实际泛化能力与工程适用性有待后续验证。