推测扩散是一场关于两种权衡的博弈

arXiv：2610.31819v1 发布类型：新 提要：推测解码是一种通过从速度更快、质量较低的草稿模型中采样，从而提升自回归大型语言模型（LLMs）推理速度的技术。传统上，推测解码的一个基本特征是相对于验证器分布而言无损，能够在不牺牲质量的前提下实现提速。这与近期发展的扩散型LLMs（dLLMs）有所不同；后者通过以更少的扩散努力降低输出质量，从而显著提升推理速度。由于扩散模型能够通过并行生成标记来实现比自回归模型更快的采样，因此它们被视为推测扩散中理想的草稿模型候选者。尽管如此，它在广泛