arXivの新論文では、コンパクトエンコーダーによる統合スコアリングと選択肢ごとのスコアリングの性能を比較しています
2026年10月24日、arXivは論文arXiv:2610.30970v1を公開し、パラメータ数が1,700万から10億の範囲にあるコンパクトなエンコーダーについて、閉じた集合における意思決定タスク（例：ツール選択）において、すべての選択肢を同時に評価する方式と、個々に独立してスコアリングする方式の設計選択を体系的に評価した。研究結果によると、3,200万のパラメータ規模では、個別選択肢スコアリングの方がスキル指標において統合スコアリングを有意に上回る一方で、計算負荷が高く、遅延のばらつきも大きいことが示された。さらに、複数のSystem1-Arenaベンチマークにおいて、6,800万および1億5,000万のパラメータを持つ統合型エンコーダーが、4億3,500万のパラメータを持つDeBERTa-v3のゼロショット分類器を上回ることが明らかになった。
注目する理由：本論文は、現行の大規模モデルにおける下流の意思決定モジュールの軽量化設計に関する重要な実証比較を提示しており、アーキテクチャの選定、初期化への依存性、遅延と精度のトレードオフ、入力順序に対するロバスト性といった工学上の重要課題を網羅しています。データは3つのランダムシードによる実験および公開・非公開のベンチマークに基づいて検証されており、公開日時（2026年10月24日）は現在のUTC日付（2026年10月25日）と一致しており、最新かつ信頼性の高い研究進展に該当します。