出典・テーマ・日時から、気になるニュースを見つけられます。
arXiv:2610.33015v1 発表タイプ：新規 要旨：長期記憶は、大規模言語モデル（LLM）エージェントが個別化されかつ時間的に一貫した対話を維持することを可能にするが、記憶の取り込み・抽出・整理のためにLLMによる推論を繰り返すと、大きなコストと遅延が生じる。本研究では、顕著性に基づく取り込みと述語中心の情報抽出を組み合わせた軽量な記憶フレームワークSLICE-Memを提案する。コンパクトな分類器が保持すべきユーザの発話ターンを識別し、意味依存関係に基づく抽出器が取り込まれたターンを簡潔な記憶エントリに変換する。このオンライン処理パイプラインは生成型LLMへの呼び出しを一切必要とせず、エントリ間の整合性調整はオフラインの統合段階に委ねられる。我々はMemoraおよびLongMemEval-Sの週次サブセットに対して、8B aを用いてSLICE-Memを評価する。
arXiv:2610.32429v1 発表タイプ：新規 要旨：大規模言語モデル（LLM）エージェントは、サブエージェントが実行中にメインエージェントが作業を継続し、その結果が到着する前にタスクの状態が変化することもあり、ますます非同期的にタスクを実行するようになっています。メインエージェントは、禁止された変更を回避しつつ、どの処理を更新または保持し、どのチェックを再実行すべきかを判断しなければなりません。タスクの最終的な成功だけでは、これらの結果が正しく処理されたかどうかを示すものではなく、自然な非同期的な到着パターンは再現が困難です。そこで私たちは、LLMエージェントにおける非同期タスク実行のためのベンチマークであるAsync-RBenchを提案します。このベンチマークには、8つのシナリオを網羅した200の実行可能なタスクが含まれています。シナリオコントローラーは、事前に定義されたタスク状態の条件に基づいて結果の配信を制御し、イベント応答契約（ERC）は各応答が何を意味するかを明示します。
arXiv:2610.33012v1 発表タイプ：新規 要旨：ツール利用を備えた大規模言語モデル（LLM）エージェントは、同一の状態から独立した実行を行った際、異なるツールを呼び出したり、矛盾する出力を生成したり、互いに異なる戦略を採用したりと、一貫性のない挙動を示します。この変動性は時間の経過とともに累積し、デプロイメントの信頼性を損ないます。既存の評価指標は主に完了ベースのスコアによってタスクの正しさを測定しており、実行間におけるエージェントの振る舞いの一致性を捉えられていません。一方で、エージェントの振る舞いは、確率分布を用いたトークンレベルでの分析や、意味クラスタリングによる単一応答レベルでの分析が行われていますが、いずれも軌跡上の将来のターンにわたって不一致がどのように伝播していくかを捉えることはできません。そこで私たちは、Recursive Semantic Divergence（RSD）という手法を提案します。これは未使用の…
arXiv:2610.33007v1 発表タイプ：新規 要旨：統合された地上系および非地上系（TN/NTN）6Gネットワークにおける自然言語によるサービスインテントは、不完全であったり曖昧だったり、一貫性を欠いていたりするため、信頼性の高いネットワーク向けオーケストレーションを実現するには、制約のないLLMによる生成が困難です。本論文では、文法に基づく制約付き意味解析と知識グラフ（KG）駆動型の明確化ループを組み合わせた、知識主導型LLMフレームワークを提案し、代表的な4つのサービスクラスにわたって検証済みでオーケストレーションに適したサービスプロファイルを生成します。200サンプルからなるインテントデータセットにおいて、このフレームワークは89％の分類精度と95％のポリシー妥当性を達成し、リクエストあたり平均0.66回の明確化ターンを実現しました。純粋なLLMベースラインと比較すると、提案するフレームワークはポリシーの妥当性を向上させ、共…
arXiv:2610.33039v1 発表タイプ：新規 要旨：私たちは、ローカルなエージェント型ワークロードにおいて、使用するメモリ1GBあたりの速度と知能を最適化したハイブリッドMamba-Transformer視覚言語モデルであるNemotron 3.5 Bolt 74B-A9B 24GBを紹介します。Nemotron 3.5 Super VL 120B-A12Bモデルファミリーを基に構築されたNemotron 3.5 Bolt 74B-A9B 24GBは、メモリ制約下での展開向けに、Star Elastic圧縮と2ビット量子化意識型蒸留を組み合わせています。本モデルは推論、エージェントによるツール利用、およびウェブや端末との対話に最適化されています。また、当社は本モデルと同時に公開するLiLiCorrスペキュラティブドラフト生成器も訓練し、目標とする推論速度の達成を目指しました。その結果得られたモデルは、一般的なエージェント型タスクに関する多数のベンチマークにおいて、同程度のメモリフットプリントと速度を持つ最先端モデルよりも高い精度を実現しています。
arXiv:2610.32322v1 発表タイプ：新規 要旨：LLMエージェントは、最大約10万件のエントリーを保持し、多数のモデルにサービスを提供する公開ハブからスキルを取得します。モデルが進化するにつれて、ハブは特定のモデルが既に内包しているスキルを見出し、そのモデルにとってそれらのスキルが不要であることを確認した上で、当該モデル向けにそれらのスキルを廃止しなければなりません。しかし、これまでのところ、内包の程度は既知の信頼性で測定されていません。従来の手法では、スキルを廃止するかどうかを判断する際、そのスキルを使用した場合と使用しない場合の実行結果を比較し、得られた効果のみに基づいて判定を行ってきました。ところが、内包されたスキルの場合も、モデルもスキルもその能力を発揮しない状況（我々はこれを「未解明」と呼んでいます）においても、得られる効果はほぼゼロです。そこで、私たちは代わりにそのスキルを保留し、当該スキルを基に合成したタスクでモデルを評価します。そして、高い無補助スコアが得られるのは、別のモデルがそのスキルによって利益を得る場合に限ると信じています。なぜなら、高いスコアのほぼ半数は、そのスキルが関与しないタスクで得られているからです。
arXiv:2610.32308v1 発表タイプ：新規 要旨：多段階の逆合成反応では、目的とする分子を連続する反応ステップを通じて購入可能な構成要素へと再帰的に変換する必要があり、近年の研究ではこの課題に取り組むために大規模言語モデル（LLM）による推論が活用され始めています。その最新の進化において、LLMによる推論は長期的な視野の領域へと拡張されており、モデルは相互依存的な各ステップにわたって目標を追求し、環境と相互作用しながらフィードバックに適応します。このような転換により、AI主導の数学研究における画期的な成果が示されるなど、LLMの能力は著しく向上しています。この最先端の領域において、私たちはSolventという8B規模のLLMを提案します。Solventは、長期的な視野での推論を多段階の逆合成反応へと効果的に拡張することに成功しました。二段階の事後訓練カリキュラムを通じて、Solventは反復的な…
arXiv:2610.32305v1 発表タイプ：新規 要旨：多段階の分析タスクでは、LLMエージェントが次の行動を継続するか、転送するか、あるいは停止するかを判断するために、中間的な証拠を用いる必要があります。エージェントが自身の出力を批判する自己反省は広く研究されていますが、その批判だけでは、証拠が次の行動に影響を与えたかどうかを示すことはできません。私たちはこの能力を「自己抑制」と呼んでいます。既存のエージェントベンチマークの多くは、タスクの完了度や出力品質を測定するだけで、この点については未検証です。DMAIC-Benchは、リーン・シックスシグマの明示的な統計的要件に基づいて構築された、4つの産業分野における15の産業事例にわたる97の種付け済みタスクを用いて、この能力を評価します。対になる反実仮想バリアントは、同じワークフロー上の同一位置で相反する行動を要求し、正当な抑制と無差別な停止を区別します。私たちは実行トレースを用いて
arXiv:2610.32412v1 発表タイプ：新規 要旨：再帰型の大規模言語モデル（LLM）エージェントは、分解・実行・環境からのフィードバックを通じて長期的なタスクを解決する。しかし、原子的なサブタスクを生成した後、しばしば同じ大規模モデルを再度呼び出して、馴染みのある指示を実行可能なアクションに変換している。我々は、高レベルの計画はタスク固有である一方で、葉レベルのアクションの具現化はタスク間で繰り返され、環境が許容するアクションと照合可能であることを観察した。そこで、セマンティックに関連する具現化の経験を取得し、アクションテンプレートを現在のオブジェクトおよび許容されるアクションに結びつけ、軽量な17億パラメータの選択器によって結び付けられたアクションを選択するか、あるいは変更のないサブタスクを元のエージェントに委ねる外部再利用層であるLeafSkillを提案する。スキルは外部に留まり…
arXiv:2610.33020v1 発表タイプ：新規 要旨：もし自分の脳が他者の脳と直接接続されていたとしたら、その思考が自分自身のものであるかどうかは依然として分かるだろうか。私たちは、一つの言語モデルを二つ用意し、機能的な実装を構築した。それぞれのモデルは独自のルールとコードワードを保持しており、一方のコピー（受信者）は、もう一方の内部メモリにも注意を向ける。受信者は、パートナーに割り当てられたタスクを自らのものとして受け取った。パートナーのメモリに重みを倍にして与えた場合（リンクなしではゼロ）、どのルールが割り当てられたのかを問うと、回答の97％でパートナーのものを挙げた。また、オープンな報告においても、受信者はパートナーのコードワードを自らのものと称し、決してパートナーのものとはしなかった。所有権は、受信者がパートナーに何が割り当てられたかをどれほど正確に識別できるかには依存しなかった。重みが等しい場合、リンクによって受信者はパートナーのルールを約半分の確率で受け入れるようになった。
arXiv:2610.34436v1 発表タイプ：新規 要旨：ループ型言語モデルは、各トークンに対して層のブロックを$R$回実行するため、そのキーバリューキャッシュ（KVキャッシュ）には各再帰層ごとに$R$個の平面が格納され、自己予測的デコーディング（一部のループで予備的に推論し、残りの$R$すべてで検証する手法）ではそれらすべてを読み込む。我々は、プレフィックスのキーとバリューが影響を及ぼすのは後半に集中していることを確認した。同程度の摂動サイズにおいて、ループ25〜32はループ2〜9に比べて、Huginn-0125では$e^{15.0}$倍、Raven-Llamaでは$e^{12.8}$倍も感度が高く、各平面はそれぞれのループごとに0.88および0.81の割合で最後の平面へと幾何級数的に近づいていく。このとき、最も深い平面単独で十分かどうかは、後半の平面がどれほど成熟しているかに依存する。Ravenの場合、その平面のみを保存してもbf16からfp32への変換と区別できない一方、Huginnでは位置のわずか1%が全体の誤差の74%を占めている。これをRIPEに展開すると、最も深い
arXiv:2610.31946v1 発表タイプ：新規 要旨：3人の学生が同じ試験の設問に手書きで回答しました。「幸福とは何か？あなたは幸せですか？」彼らの年齢は収集時に記録されており、それぞれ17歳、28歳、45歳です。17歳の回答は慎重で形式的な表現になっています。各回答を年齢と性別のラベルに照合するよう求めたところ、多くの最先端の言語モデルは自信を持ってそれを成人に割り当てました。本論文では、Claude Fable 5、Gemini 3.1 Pro、GPT-5.6 Sol、Grok 4.5、GPT-4o（2024）、DeepSeek V4の6つのモデルにおいて、この誤判定に関する構造的な事例研究を報告します。私たちは1,081回のAPIセッションを実施し、フレーミング、開示形式、および対象者意識に関する指示を操作した6つの実験条件のもとで、合計3,225件の応答を評価しました。6つのモデルのうち3つは、照合タスクにおいて偶然程度（1/3）かそれに近い成績を示す一方で、73〜88％の
arXiv:2610.32026v1 発表タイプ：新規 抄録：従来のニューラルネットワークの学習は通常、事前に定められた最適化手法に従って行われ、学習の進行に応じてトレーニング動態を監視し最適化器の設定を調整するLLMエージェントが活用されてきました。しかし、固定されたエージェント方針では、複数の実行にわたって経験を蓄積することはできません。そこで私たちは、RSI-Optを提案します。これはプラグアンドプレイ可能な再帰的自己改善型最適化エージェントであり、このプロセスを導く知識—すなわちプロンプト、手順のプレイブック、検証済みの最適化コードライブラリ、そして意思決定の頻度—を進化させます。メタエージェントは、過去の実行から得られた証拠を用いてこの方針を書き換え、アーカイブには評価済みの方針を保存してさらなる進化を促します。3つの学習タスクにおいて5世代にわたって試行した結果、メタエージェントは再利用可能な手順やコードを構築し、自らの判断に基づいて…
arXiv:2610.31734v1 発表タイプ：新規 要旨：ライブのeスポーツ中継には、どのカメラ映像を放送するかを決定するディレクターと、その選択について次々と解説を加えるキャスターが、次の展開を予期することなく、毎秒必要とされる。ストリーミング動画用言語モデルは解説を行うことを学習しているが、それはあくまで人間のディレクターがすでに制作した中継に限られている。本研究では、各プレイヤーの生のカメラ映像を入力として受け取り、過去の情報のみをもとにディレクションと解説の両方を担う必要がある、リアルタイム中継の制作プロセスに着目する。そこで、これら両方を実現する単一のストリーミング動画用言語モデルであるDirCastを提案する。同モデルは毎秒、すべてのカメラ映像を低解像度でスキャンし、ホールドか切り替えかというディレクション判断を下した後、選択されたカメラ映像を高解像度で読み込んでから発話を行う。そのコンテキストには、これまでに放送された内容と
arXiv:2610.32638v1 発表タイプ：新規 要旨：大規模言語モデル（LLM）の推論は、企業向けおよび対話型アプリケーションにおける基幹サービスとしてますます広く導入されていますが、主権、コンプライアンス、遅延、リソースの局所性といった要件により、集中型クラウド環境での導入には限界があります。通信事業者は、これらの制約に対応するため、地理的に分散した計算およびネットワークインフラを提供しています。しかし、既存のLLMサービスフレームワークは、密結合されたデータセンター向けに設計されており、地理的に分散し多様なリソースの協調を支援する機能は限定的です。本稿では、通信インフラ上でのサービスレベル目標（SLO）主導型LLM推論のためのリファレンスアーキテクチャであるInferSliceを提案します。同アーキテクチャは、ネットワークスライシング、GPUパーティショニング、エラスティックなサービス提供、ならびに観測可能性を統合しています。
arXiv:2610.32107v1 発表タイプ：新規 要旨：会話に参加する際には、何を話すかを決めるだけでなく、そもそも発話すべきかどうかを判断することも重要である。特に、参加者の利害が対立する「人狼ゲーム」のような環境では、発話と沈黙の両方が他者による解釈と評価の対象となるため、この判断は一層重要な意味を持つ。したがって、何を話すかに加えて、いつ話すかを適切に決定することは、人狼ゲームをプレイするLLMエージェントにとって極めて重要である。本研究では、AIWolfDial共有タスクの「Anytime Utterance Track」向けに開発された人狼AIエージェントを紹介する。我々のシステムは、既存のInner Thoughtsフレームワークを基盤としており、会話中の発話タイミングを、内部思考を生成し、各思考の価値を評価することで決定する。
arXiv:2610.31918v1 発表タイプ：新規 要旨：対話型の大規模言語モデルエージェントの蒸留では、教師が生成したデモンストレーションと学生が生成した経験のどちらを選ぶかという選択が必要であり、これは広くオフポリシー蒸留とオンポリシー蒸留に対応している。両者とも有効であることは実証されているが、我々はこの区別が本質的に階層的であると主張する。すなわち、対話履歴を生み出す方策と、現在の行動のトークンプレフィックスを生成する方策は必ずしも同一である必要はない。そこで、これらの二つのレベルのオンポリシー性を形式化し、それらのペアリング、混合比率、および学習スケジュールを明示的に制御できる、階層的なエージェント蒸留フレームワークを提案する。我々は、凍結された教師が学生には利用できないタスクガイダンスにアクセスできる自己蒸留を通じて、この問題を検討する。そして
arXiv:2610.31971v1 発表タイプ：新規 要旨：大規模言語モデル（LLM）を用いたエージェントは、個人や組織に代わって交渉に参加するケースが増加している一方で、特に繰り返し行われる複数当事者間の対話においては、依然として操作に対して脆弱である。従来のマルチエージェントシステムでは、明示的な信頼モデルや評判モデルによってこの課題に対処してきたが、LLMによる交渉に関する既存の研究では、信頼をむしろ創発的な現象として扱うことが多い。本研究では、LLMエージェントが過去の相互作用から有用な信頼評価を形成し、それを活用して将来の交渉結果を改善できるかどうかを検証する。さらに、繰り返し行われる複数当事者・複数課題の交渉フレームワークを提案し、その中で定期的に参加するエージェントが一連の交渉ゲームに臨む一方で、ある参加者が密かに合意成立を妨害しようとする状況を設定する。
arXiv:2610.31827v1 Announce Type: new Abstract: Long-context LLM serving for agentic, coding, and document workloads reuses prefixes whose key-value (KV) cache outgrows GPU and host memory, putting storage I/O on the critical path of the inference step for retrieving prefixes. A single node-local NVMe absorbs all retrievals, while the parallel file system or cloud file store that nodes already mount carries almost no inference traffic. We cast prefix retrieval as aggregate-bandwidth scheduling across these tiers and present KVStream, a KV cache engine that batches a step's reads, defers writes behind the forward pass, replicates each chunk on every tier, and lets each tier adaptively claim the next unread chunks once it is free. Our performance model shows this routing attains the aggregat
翻訳待ち・原文を表示中 · enarXiv:2610.31728v1 発表タイプ：新規 要旨：ミュオンは大規模言語モデルの学習において人気の最適化手法となっているが、その理論的基盤は依然として十分に解明されていない。本研究では、勾配ノイズの幾何学的構造がミュオンによる前処理効果にどのように寄与するかを検討する。まず、古典的な等方性ノイズ仮定の下では、ミュオンは学習率の再スケーリング以外に加速効果をもたらさないことを理論的および実証的に示す。これを受けて、私たちは異種タスクの発生頻度を持つ連想記憶におけるミニバッチサンプリングから生じる構造化されたノイズに着目し、二つのタスクに対する正確なバランス閾値を導出するとともに、多タスクへの拡張を行った。その結果、タスクのカバー率と勾配の信頼性が相互に作用して学習を形作ることを明らかにした。我々の分析によれば、ミュオンは…を緩和できることが示されている。
