推測拡散は二つのトレードオフの物語である

arXiv:2610.31819v1 発表タイプ：新規 要旨：スペキュラティブデコーディングとは、より高速で低品質な下書きモデルからサンプリングすることで、自己回帰型の大規模言語モデル（LLM）の推論速度を向上させる手法である。従来、スペキュラティブデコーディングの基本的な特性は、検証器分布に対して無損失であり、品質を犠牲にすることなく速度を保証する点にあった。これに対し、最近開発された拡散型LLM（dLLM）は、拡散処理の負荷を軽減することで出力の品質を低下させつつ、大幅な高速化を実現できるのが特長である。拡散モデルはトークンを並列に生成できるため、自己回帰型モデルよりも高速にサンプリングが可能であり、スペキュラティブ拡散における下書きモデルとして有力な候補とされている。広く…