
2026年10月24日、『Mostly Reading: What Open-Book Scores Measure in Document-Level LoRA Adapters』というタイトルのarXivプレプリント(番号2610.31017v1)が公開され、現在の単一文書ベースのLoRAアダプターを用いた知識編集および検索のパラダイムに対して重要な疑義が提示された。本研究では、Llama-3.1-8B-Instructモデルを対象に、ウィキペディア記事150本それぞれに対し専用のLoRAアダプター(すなわち「エキスパートアダプター」)を学習させ、さらに、文書テキストが明示的に与えられるオープンブック評価と、元のテキストが提示されないクローズ型の穴埋めプローブの二つの評価手法を設計することで、「読書行動」と「知識保持」を分離して検証した。
結果は次のとおりである。OpenBook評価では、一般的な読解能力が主に反映される——他の文書で学習されたランダム適応器は、専門家用適応器が基礎モデルに対して示すOpenBookにおける優位性の82%を再現できる。しかし、同一文書に関する事実の完形埋め込みタスクにおいては、このランダム適応器はわずか2%の優位性しか再現できず、しかもその値は統計的にゼロと区別できない。このことは、OpenBook設定下では、性能向上のほぼすべてが、モデルによるプロンプト文書の即時処理に起因しており、適応器の重みに蓄えられた特定の知識によるものではないことを示している。
専門家アダプターは、完形填空タスクにおいてベースモデルを+0.094の絶対的向上で有意に上回り、内容情報が確実に重みに反映されていることを示したものの、重み空間上の距離やテキスト埋め込みの類似性に基づくアダプター選択戦略は、両種類のタスクにおいていずれもランダム選択よりも統計的に有意な優位性を示さなかった。さらに、16個以上のアダプターを統合する場合、適切にスケーリングされた融合手法ではオープンブックタスクにおける優位性の87~89%しか回復できないのに対し、完形填空タスクにおける優位性はわずか12~16%(信頼区間の下限はゼロ未満、上限は32%以内)にとどまり、一方で共同学習では完形填空タスクにおいて94%の優位性が得られるため、分離型アダプターによる知識の固定化の不十分さが一層明らかになった。
論文はさらに、ランタイム例外を引き起こさず、出力形式も完全に正常であるにもかかわらず、誤った結論を導く「サイレントエラー」が4件存在することを特に指摘している。この点は、当該分野における手法の実装と結果の検証の脆弱性を示す重要な警告である。なお、すべての結論は本プレプリントに掲載された実験に基づいており、まだ査読を受けていない。