2026年10月26日、arXivプラットフォームはプレプリント論文「SPECMEM: Accelerating Agentic Tool Calling via Live Memory Management」（ID 2610.31840v1）を公開し、ツール呼び出しを行うエージェント向けのリアルタイム記憶管理システムであるSpecMemを提案しました。このシステムは、導入時に顕著化しつつある遅延のボトルネックを解消することを目的としています。従来のツール呼び出しは自己回帰的デコーディングに依存しており、呼び出し回数に伴ってオーバヘッドが線形的に増加します。
SpecMemのコア設計は三つの部分から構成されます。第一に、検証済みのツール呼び出し結果を境界付きでユーザーごとに分離されたメモリストアにリアルタイムで書き込み、LRU戦略により動的に淘汰します。第二に、副作用ゲートを導入し、不可逆な影響を及ぼす可能性のある呼び出しを遅延実行とし、検証で確認されてからのみ発火させます。第三に、記憶庫を常にオンラインで更新し続け、既存システムが一度構築した後でストレージを凍結する方式とは異なります。
実験は、3つのオープンソースの重み付けモデルサービスを用いたマルチセッション・マルチユーザーのクエリフローに基づいて評価されました。その結果、静的固定メモリベースラインと比較して、SpecMemは平均受容トークン数において27%の差を示し（各ベンチマークで+11%から+34%の改善）、実測のエンドツーエンドの壁時計時間では最大で1.74倍の高速化が確認されました。アブレーション分析からは、性能向上のほとんどがメモリベースの継続的なオンライン更新に起因していることが明らかになり、ユーザーレベルでの分離は受容率の向上には寄与しませんでしたが、ユーザー間のメモリ漏洩を効果的に防止しました。また、検索信頼度ではなく宣言型の副作用に基づくゲート制御メカニズムが、不可逆的なエラーを回避するための重要な設計要素であることが示されました。
本研究は現在、arXivのプレプリントとして公開されており、まだ査読を受けていません。その効果の検証は、特定のオープン重みモデルとシミュレーションによるクエリフローのシナリオに限定されており、実際の運用環境におけるロバスト性および拡張性については、さらなる検証が必要です。