研究では、Delta N-gram を提案した:言語モデルのネイティブなN元文法表に対する前方のみの持続的書き込み手法
2026年10月24日、arXivは論文arXiv:2610.31125v1を公開し、Delta N-gram——事前学習済みN-gram表T⁰を変更せず、前方伝播のみで疎な増分パッチΔを書き込む新しいメカニズム——を提案し、効率的かつ可逆的な継続的記憶更新を実現することを示した。
注目する理由:本研究は、継続学習におけるモデルの基礎パラメータの変動が大きいという課題に対し、構造が軽量(4.1Mパラメータ)、計算が効率的(純粋な前方伝播)、完全に可逆的(Δをクリアすれば元のモデルに戻る)な記憶強化パスを提案し、Qwen3.8-Flash-Nextなどのモデル上で、文書特異性と干渉耐性の向上を実証しました。これは最先端の信頼性あるAIシステムに関する研究です。
