2026年10月24日，一篇题为《ULME: Predictive Coupling for Mutually Reinforcing Embedding and Language Modeling》的论文在arXiv平台发布（编号arXiv:2610.30705v1），提出ULME——一种新型后训练框架，旨在解决大语言模型中文本嵌入与语言生成能力长期割裂的问题。
ULME运行于因果解码器-only大语言模型之上，其核心创新在于引入‘预测耦合’机制：在查询与答案之间插入一串可学习插槽，从中分别读取语义嵌入和推理嵌入，并同步优化三项损失——对比损失（锚定语义插槽至文档表征）、语言建模损失（监督答案生成）以及带stop-gradient的预测损失（使推理插槽对齐答案的池化摘要），从而让生成过程主动引导嵌入内容的形成。
该框架在Qwen2.5与Qwen3两大模型家族、共八个参数规模（0.5B至8B）上完成验证。结果显示：单个ULME检查点在MTEB基准上较最强开源基线提升3.3–4.1分；同时收紧BRIGHT与AdvBench-IR两项检索增强任务指标；且在MMLU、GSM8K、MMLU-Pro和HumanEval等标准生成评测中，性能与纯生成微调模型持平。论文指出，这证明了‘真正统一’可带来能力间的相互增强，而非简单共存。
需注意：该成果目前仅以arXiv预印本形式公开，尚未经过同行评议；所有实验结果均基于Qwen系列模型，未声明在其他架构（如Llama、Phi等）上的泛化表现；文中未提供推理延迟、显存开销或实际部署适配性等工程维度数据。