出典・テーマ・日時から、気になるニュースを見つけられます。
arXiv:2610.33008v1 公告タイプ：新規 要旨：拡散型大規模言語モデル（dLLMs）は、反復的なマスク付きデノイズングによって柔軟な生成を実現する一方で、デノイズングの各ステップにおいてトークン表現を繰り返し再計算するため、推論コストが大幅に増加します。既存のキャッシュベースの手法では、デノイズングの各ステップ間で中間結果を再利用し、各ステップごとに固定スケジュールまたは変化を示すヒューリスティック信号に基づいて選択された一部の位置のみを再計算することで、このコストを低減しています。一方、我々の軌跡実験は、むしろデコード軌跡こそがより重要な指標であることを示唆しています。キャッシュによる生成は、完全なデノイズング軌跡に近い状態を維持している限り精度を保ち、誤差は主にマスク順序の逸脱に集中し、参照プレフィックスが長くなるほど減少することが明らかになりました。これにより…
arXiv:2610.33062v1 発表タイプ：新規 要旨：統合型大規模マルチモーダルモデル（ULMM）は、テキストと画像の交互生成を通じて視覚推論を実行できるが、明示的な中間画像を生成するには多大な計算負荷が伴う。視覚潜在空間による推論がこの課題を解決しうるものの、既存の手法の多くは、視覚生成が不可能な視覚言語モデル（VLM）に依存している。本研究では、ULMMにおいて潜在的な視覚推論を可能にする新たなフレームワークであるOddinを提案する。Oddinは、中間画像をコンパクトな潜在トークンに置き換え、これらを理解ブランチのみで処理することで、生成ブランチは最終的な出力画像の生成に専念させる。我々は、オフラインの自己蒸留手法を用いて、3つの目的——最終画像生成損失、テキスト蒸留損失、およびクロスエントロピー損失——に基づいてモデルを学習する。
arXiv:2610.31721v1 発表タイプ：新規 要旨：コストの高い評価や複雑な制約下で高次元の物理系を最適化することは、科学および工学における中心的な課題である。オフラインのモデルベース最適化（MBO）では、テスト時に真の目的関数にアクセスできない条件下で、固定されたデータセットのみを用いて設計を改善しなければならない。しかし、既存の手法は一般に保守主義や、制約のない代理モデルの過剰利用といった問題を抱えており、あるいは精密な物理的目標に対して候補を精緻に改良できない静的な推論時サンプリング手法として機能している。本論文では、オフラインMBO向けに微分可能な拡散条件付け（D2C）を提案する。これは、決定論的サンプリングにより逆方向のノイズ除去チェーンが条件付信号に関して微分可能となるという事実を活用したものである。D2Cは…
arXiv:2610.31765v1 発表タイプ：新規 要旨：単一の参照映像から動的シーンの複数の映像を生成するには、視点間で観測された内容と観測されていない内容を一貫して合成する必要があります。既存のビデオ拡散におけるカメラ制御手法は、通常、カメラ埋め込み、クロスビュー注意機構、幾何学的条件付けなどのアーキテクチャ上の仕組みに依存しています。静的なシーンコンテンツに対しては有効であっても、これらの手法は、視点間および時間経過において一貫性が求められる細部にわたる動的ジオメトリに対処するのが困難であることがしばしばあります。私たちは、各2次元画像平面で独立にサンプリングを行うのではなく、ソース映像から導かれる標準的な3D空間においてガウスノイズの事前分布をサンプリングし、それをターゲットとなるカメラへラスタライズすることで、拡散プロセス自体を同期させています。私たちのm
arXiv:2610.31819v1 発表タイプ：新規 要旨：スペキュラティブデコーディングとは、より高速で低品質な下書きモデルからサンプリングすることで、自己回帰型の大規模言語モデル（LLM）の推論速度を向上させる手法である。従来、スペキュラティブデコーディングの基本的な特性は、検証器分布に対して無損失であり、品質を犠牲にすることなく速度を保証する点にあった。これに対し、最近開発された拡散型LLM（dLLM）は、拡散処理の負荷を軽減することで出力の品質を低下させつつ、大幅な高速化を実現できるのが特長である。拡散モデルはトークンを並列に生成できるため、自己回帰型モデルよりも高速にサンプリングが可能であり、スペキュラティブ拡散における下書きモデルとして有力な候補とされている。広く…
