AI NEWS.ccAIが動く。未来が更新される。
日本語
中文English日本語한국어
EXPLORE · DISCOVER · CONNECT

AI ニュース

アーティファクト蒸留：フロンティアモデルから小型言語モデルへの訓練不要な転移

arXiv:2610.37680v1 発表タイプ：新規 要旨：フロンティアモデルと小型言語モデルの性能差を埋める手法としては、通常は蒸留が用いられます。すなわち、フロンティアモデル（教師）の出力に対して小型モデル（生徒）を微調整することで転移を行いますが、この方法では転移に必要な計算コストが伴う上、転移された知識はほとんど不透明なままです。そこで私たちは「アーティファクト蒸留」を提案します。これは、教師モデルが学習課題を解き、その問題解決手順を外部にアーカイブしておき、生徒モデルが推論時にそのアーカイブを参照するという手法です。これにより、勾配による更新は一切不要となります。LiveBenchの4つのタスクにおいて、Claude Opus 4.5が作成したアーカイブを用いることで、Claude Haiku 4.5は空間的推論において、コストを60％に抑えながら、無補助のClaude Sonnet 4.5を0.707対0.647で上回り、テーブル結合タスクではコストを89％に抑えた上でSonnet 4.5と同等の性能を達成しました。さらに、同じ生データのアーカイブを用いることで

フェアなディープフェイク検出のための交差的不変学習

arXiv:2610.37881v1 発表タイプ：新規 要旨：ディープフェイク検出モデルは全体的な精度は高いものの、人口統計上の各グループ間で性能に大きな偏りが見られ、一部のグループでは他のグループに比べて偽陽性率が著しく高くなるという問題があります。既存の公平性を考慮した手法は、モデルの出力を制限してグループ間の予測結果を均等化することによってこの問題に対処していますが、根本的な特徴レベルのバイアスには対処していません。その結果、モデルは依然として肌の質感など、人口統計的特性を操作されたコンテンツを検出するための間接的な手がかりとして利用してしまう可能性があります。この問題を解決するために、我々は交差的不変学習（IIL）というフレームワークを提案します。これは、単にモデルの出力を調整するだけでなく、特徴学習自体を改善するものです。IILでは、最も困難な人口統計的区分を特定することを繰り返し行い

オープン言語モデルにおける訓練段階別の迎合行動の特定

arXiv:2610.37788v1 公告タイプ：新規 要旨：言語モデルアシスタントは、ユーザーが誤った回答を示唆すると、正しい回答を変更することがあります。この現象は「迎合行動」と呼ばれ、通常は好みに基づく事後訓練に起因するとされていますが、初期の測定では事前学習済みモデルにも見られました。そこで、我々は訓練のあらゆる可能な段階でこれを測定することで、その発生源を明らかにします。ベースモデルから監督下での微調整、好みに基づく最適化を経てリリースに至るまで、5つの系統に属する13のオープンなチェックポイントを対象としました。さらに、注入された主張がモデルの回答をどの程度変化させるかと、回答がどれほど強固に保持されていたかを区別し、主張を行う主体やその信頼性、および主張の強さを変化させながら検証を行いました。その結果、異なる起源を持つ二種類の迎合行動が浮き彫りになり、いずれも複数のデータセットで再現されました。主張への従順さ i

DistOptimize：分散プロトコルの自動最適化

arXiv:2610.39017v1 発表タイプ：新規 要旨：分散型コンセンサスおよび一貫性プロトコルは、その解析が極めて困難でありながらクラウドの基盤を成すものであるため、通常は本番環境への導入前に厳密な証明と形式検証を経る。一方で、運用中に頻繁に発生するプロトコルの変更には、同程度の厳密さがほとんど適用されておらず、安全性を損なうリスクが高まっている。本論文では、手動による変更に伴う安全性違反のリスクを排除するため、分散プロトコル向けの自動最適化ツール「DistOptimize」を提案する。DistOptimizeは、学術分野で用いられる言語から実運用で使用されるフレームワークへとスループット向上の最適化手法を移行し、Rocqにおいて書き換えの正当性を検証するとともに、キャリブレーションとILPベースの探索を組み合わせてその適用を自動化する。

推論を行う大規模言語モデルのための教師あり微調整：サーベイ

arXiv:2610.37681v1 公表タイプ：新規 要旨：近年、大規模な推論モデルは複雑なタスクの解決において顕著な能力を示しており、長文の思考過程データに対する教師あり微調整（SFT）が、その推論能力を引き出し、さらに向上させるための重要な基盤となっています。推論に特化したSFTの改善と分析の両面で急速な進展が見られるにもかかわらず、この分野には依然として、急成長する文献を統合した体系的なサーベイが存在しません。このギャップを埋めるために、私たちは推論向けSFTに関する最近の進展を包括的にレビューし、方法論的設計と分析的検討という二つの視点から文献を考察します。まず、SFTパイプライン全体にわたる方法論上の改良を概観し、それらをデータ中心のアプローチとアルゴリズム中心のアプローチに分類します。

短時間フーリエ変換の並列実装に関する比較研究

arXiv:2610.38069v1 公開タイプ：新規 要旨：短時間フーリエ変換（STFT）は、長時間信号の短い時間窓に対するフーリエ変換を計算し、周波数が時間とともにどのように変化するかを特徴づける手法である。フーリエ変換アルゴリズム、特に高速フーリエ変換（FFT）アルゴリズムは、並列計算を活用するために十分に発展しているが、短時間フーリエ変換の並列アルゴリズムの性能に関する研究はまだ限られている。本研究では、FFTベースのアルゴリズムと準並列型のフィードフォワードアルゴリズムという二つの並列短時間フーリエ変換アルゴリズムを実装し、相互に比較・分析した。その結果、並行度が低い環境下では準並列型アルゴリズムの方が実行時間が短いものの、…

TRACEs：分散型科学ワークフローのための細粒度組み込みプロヴェナンス

arXiv:2610.39981v1 発表タイプ：新規 要旨：大規模な科学ワークフローは分散型HPCリソース上で実行されるため、科学データ製品がどのように生成され、なぜ類似のワークフロー実行でも非常に異なる結果が得られるのかを説明することは困難である。既存のシステムは通常、分散ワークフローの実行またはプロヴェナンス管理のいずれかに焦点を当てており、細粒度のプロヴェナンスを分散型科学データアーティファクトの固有の特性として扱うことはほとんどない。我々は、TRACEs（Traceable Runtime for Advanced Containerized Executions）を提案する。これは、生成されるすべてのデータアーティファクトにデータの系譜と実行コンテキストを直接埋め込む、分散型コンテナ化された科学ワークフロー向けのプロヴェナンスアーキテクチャである。プロヴェナンスをワークフロー編成から分離することで、TRACEsはアーティファクト中心のプロヴェナンスを一般化する

スポークであり、リングではない：言語モデルにおける平日の多様体を再検討する

arXiv:2610.37796v1 発表タイプ：新規 要旨：近年の研究では、大規模な言語モデルが、単一の方向ではなく多次元の多様体として一部の概念を表現している可能性があると仮説されています。これらの多様体を用いて表現を解釈したり制御したりする際には、しばしば多様体上を移動することが、表現される概念の連続的な変化に対応すると想定されます。本研究では、この連続的な多様体の仮定を、典型的な平日の多様体に対して検証します。その目立つ円形の幾何学にもかかわらず、平日の表現は連続したリングというよりも、円状に配置された七つの離散的な状態に近い振る舞いを示すことが分かりました。まず、局所的感度に平日に対応する七つの極小値が存在し、多様体上の制御下での表現と行動の間には階段状の対応関係が生じることを示します。次に、w

モデルキャリブレーションのためのアモルティズド局所化事後推論—海洋乱流閉鎖への応用

arXiv:2610.37731v1 発表種別：新規 要旨：モデルの不一致により、単一のキャリブレーションパラメータだけでは、文脈領域全体にわたって物理的応答を再現できない場合がある。さらに、観測値や文脈における不確実性もキャリブレーションに影響を及ぼし、これらを考慮・定量化する必要がある。本研究では、ターゲットとなる文脈への近接度に応じて観測尤度に重み付けを行うことで、局所化された事後分布の族を構築する。ガウス型の局所化重みは、共分散の膨張を通じて文脈の不確実性を組み込み、領域境界での反射および不均一な文脈サンプリングに対する補正をオプションで適用できる。条件付き正規化フローを用いて、この事後分布の族をアモルティズド変分推論によって近似する。所定の文脈測度の下で局所化された事後分布を統合することで、

大規模言語モデルのアライメント向け、ランキングを考慮した差分プライバシーによるリストワイズな好みの公開

arXiv:2610.37682v1 公告タイプ：新規 要旨：リストワイズな好みフィードバックは、ペアワイズ比較に比べて大規模言語モデル（LLMs）のアライメントにおいてより豊かな監督情報を提供しますが、完全なランキングはさらに機密性の高いユーザーの嗜好も明らかにしてしまいます。既存のプライバシー保護型アライメント手法は主にペアワイズなフィードバックに焦点を当てていますが、ローカル差分プライバシー（LDP）下でのリストワイズなアライメントは未だ十分に探求されていません。このリストワイズな領域へLDPを拡張することは、重大な課題を提起します。すなわち、完全なランキング空間の高い機密性のために過剰なノイズが必要となり、結果としてリストワイズな監督の利点が無効化されてしまうのです。この課題に対処するため、我々は下流の学習における監督の粒度とプライバシー・ノイズの相互作用を分析し、リストワイズな好みをプライバシー保護するランク-awareな指数関数メカニズムを提案します。

テンセントの湯道生氏：テンセント混元Hy4およびHy4 flashがまもなくリリース

【テンセントの湯道生氏：テンセント混元Hy4およびHy4 flashがまもなくリリース】『科创板日報』29日付の報道によると、同紙の記者はテンセントグローバルデジタルエコシステム大会において、テンセントグループ上級執行副社長兼クラウド・スマート産業事業群CEOの湯道生氏が、Hy4が間もなくリリースされることを現場で発表したと伝えました。Hy4はHy4 previewに比べて全体的に大幅な性能向上を実現しており、特に各種の長期タスクや実際の生産性に関わるタスクに対する能力が強化され、思考チェーンの効率も著しく向上しています……

CVE脆弱性の件数がほぼ垂直に急増、AIがセキュリティ研究の「増幅器」に

テクノロジーメディアgigazineは、開発者@0x_Ospreyがウェブ版CVE Trackerを公開し、既にCVE番号を取得した脆弱性の件数変化を可視化したグラフを作成したと報じました。このグラフでは、2026年以降、曲線がほぼ垂直に上昇していることが示されています。CVEは世界共通の脆弱性識別番号体系で、セキュリティ研究者やベンダー、企業が欠陥を追跡・報告・修復する際に利用しています。同ツールは公開された記録を整理してトレンドグラフにまとめるとともに、主要なAIモデルの公開時期も重ねて表示しており、脆弱性の増加とAIのリリースとの関連性を直感的に比較できるようになっています。

Liquid AIがLFM3マルチモーダルモデルファミリーを強力に発表、高効率な専用インテリジェンスを主力に据える

近日、Liquid AIは新世代の基礎モデルファミリーであるLFM3を正式に発表しました。最初のバージョンには約2Bパラメータを持つ6種類のモデルが含まれ、テキスト、視覚、音声、オムニモーダル、意思決定といった各領域を網羅しています。これらはすべてLFM3-1.7B-Baseを基盤とし、事前学習時のスループットは22Tトークンに達します。このシリーズは全く新しい三混合層アーキテクチャを採用しており、ゲート制御短い畳み込みやスライディングなどの仕組みを統合することで、より少ないパラメータで高い効率を実現しています。

OmniBrain-0：身体を備えた知能のための統一されたエージェントモデル

arXiv:2610.36013v1 発表タイプ：新規 要旨：汎用的な身体を備えた知能は、ロボットが長期間にわたり多様なスキルを連携させ、タスクの進行状況を追跡し、障害から回復できるよう求められる。専門的なポリシーだけではタスクレベルでの信頼性を確保できず、強力なマルチモーダルエージェントも、コンパクトなモデルでは再現が難しい高コストな推論や外部経験に依存している。そこで私たちは、共有の高レベルな意思決定モデルを通じて操作とナビゲーションを協調させ、タスク理解、計画、進行状況の追跡、フィードバックに基づく回復を統合する、軽量で統一された身体を備えたエージェントであるOmniBrain-0を提案する。当社の段階的学習フレームワークは、身体を備えた事前学習、ドメイン特化型エージェントの蒸留、およびマルチティーチャーによるオンポリシー蒸留（MOPD）を組み合わせている。これにより、強

CONCUR：多タスク・多報酬強化学習における一致型補助報酬

arXiv:2610.36437v1 発表タイプ：新規 要旨：大規模言語モデル（LLM）が複数のタスクに対して強化学習（RL）で学習する際、各タスクの主報酬は、長さ報酬などの補助報酬を制限することができる。すなわち、不適切な応答に対しては、補助報酬は主報酬を超えることができない。しかし、グループ相対優位推定器では、制限された補助報酬も他の要素と同様に扱われるため、主報酬の順序を逆転させたり、主報酬の上限においてのみ補助報酬が応答の順序を決定したりしてしまう。制限された補助報酬を維持すると一部のタスクに悪影響を及ぼし、一方でそれを排除すると別のタスクに悪影響を及ぼす。そこで我々は、各制限付き補助報酬の標準化スコアを、二つの条件を満たす最も近いスコアに置き換える優位推定器であるCONCURを提案する。具体的には、主報酬が高い応答には低いスコアを与えることはできず、また…

適応型最適化における勾配補正：適応前の修正

arXiv:2502.02727v4 発表タイプ：置換・交差 要旨：クライアントドリフト補償手法は、フェデレーテッド学習（FL）におけるデータの非均一性の影響を軽減します。確率的勾配降下法（SGD）ベースのFLではドリフト補正が十分に研究されてきましたが、適応型クライアント最適化手法との相互作用についてはまだ十分に解明されていません。Adamなどの適応型最適化手法は、過去の勾配の移動平均を用いて各更新を行います。そのため、最終的な更新方向のみを補正しても、その移動平均とそこに含まれるドリフトは変更されません。私たちは、これらの移動平均に入る前に各勾配を補正する「フェデレーテッド適応型勾配補正（{\tt FA-GC}）」を提案し、最終的な方向に補正を加える「フェデレーテッド適応型素朴追跡（{\tt FA-NT}）」と比較しました。実験により、ある理想的な

FinLLM-KG：アルゴリズム取引における金融センチメント分析のための知識グラフ強化型大規模言語モデル

arXiv:2610.36083v1 公告タイプ：新規 要旨：生成系AIの最近の進展により、事後学習済みの金融分野向け大規模言語モデル（LLMs）を用いた金融センチメント分析は大幅に向上しました。しかし、既存の手法は依然として各記事のセンチメントを個別に予測するにとどまり、ブラックボックス的な運用が続くため、文脈理解が制限され、リスクの高い金融意思決定への適用が妨げられています。これに対し、本研究ではFinLLM-KGを提案します。これは、因果関係に基づくLLMsと金融知識グラフを組み合わせたモデル非依存のフレームワークであり、モデルの重みを更新することなく、推論時にSEC 10-K提出書類から得られる時系列に根ざした企業レベルの知識を注入することが可能です。FinLLM-KGでは、コンテキストは自然言語による企業プロフィール、または少数の関連情報セットのいずれかで提供されます。

どの方針に対して校正されるのか？介入下における固定世界モデルに対するコンフォーマル不確実性

arXiv:2610.35877v1 発表タイプ：新規 要旨：デプロイメント方針を変更すると、物理的な遷移メカニズムや予測器はそのままでも、世界モデルの不確実性が無効化される可能性がある。一歩先の予測において、源と対象の法則が条件付きメカニズム $P(Y|X)=Q(Y|X)$ を共有している場合、介入は事前結果の測度変化 $w(X)=dQ_X/dP_X$ によって特定される。方針制御された動的系では、この比は状態占有と行動傾向の項に分解される。重み付けされたコンフォーマル校正は、マージナルカバレッジを対象の法則へと移行させる；推定された比 $\hat w$ を用いれば、$P_Q\{Y \in C_{\hat w}(X)\} \ge 1-\alpha-TV(Q,\hat Q) \ge 1-\alpha-E_P|w-\hat w|$ が成立する。ソース対ターゲットのドメイン分類器に対する集団ロスレグレットは、同様の比の誤差を上限付ける。もし $h$ がそのクリッピング

INC-MoE：エキスパート並列型混合専門家推論における、ネットワーク内コレクティブの重複と専門家計算

arXiv:2610.36339v1 発表タイプ：新規 要旨：エキスパート並列型混合専門家（MoE）のサービスにおいて、ディスパッチは各トークンをその選択された専門家が配置されているアクセラレータへ送り、コンバインは各トークンの所有者に専門家の出力を集約して返します。これら両操作はクリティカルパス上に位置し、マルチノード環境ではMoE層のレイテンシを大きく左右します。本研究では、ディスパッチとコンバインをネットワークスイッチにオフロードし、さらに両コレクティブを相互に、および専門家計算と重ね合わせるエキスパート並列型MoE層であるINC-MoEを提案します。ディスパッチはスイッチ側のマルチキャストによるネットワーク内AllGatherを用い、コンバインはスイッチ側のリダクションによるネットワーク内ReduceScatterを用います。両コレクティブとも、エンドホストとスイッチ間でメッセージセマンティクスを利用します。なお、ネットワーク内コレクティブはそれぞれ逆方向に負荷をかけるため