
2026年10月24日,一篇题为《A Reality Check of Inference-Time Context Augmentation Methods》的研究论文发布于arXiv(编号2610.30983v1),对五种推理时上下文增强方法展开系统性实证评估。这些方法通过在输入中插入不同性质的内容(从无信息的填充词到上下文详述)来试图提升大语言模型(LLM)对给定语境的利用能力,以缓解幻觉或对参数化知识的过度依赖。
研究在句子粒度上,将五种方法分别应用于七种不同规模的LLM,并在三个数据集上进行测试。结果表明:所谓‘准确率提升’并不总代表稳健改进,而常是未定向扰动的结果——即某些预测被意外修正的同时,另一些原本正确的预测被破坏。尤其当插入内容仅为增加计算耗时的填充词(无实质信息)时,该现象更为显著。
进一步分析显示,不引入额外语义内容的方法,其影响主要集中于模型决策边界附近的样本,说明其作用机制更接近噪声扰动而非认知增强。论文据此强调:在将此类方法投入实际应用前,必须对其精度增益的可靠性(如稳定性、泛化性、错误模式)进行独立验证,而非仅关注平均指标提升。