本文へ移動
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI ニュースを検索

見出し・要約・本文から、情報のつながりを探します。

公開日時順

スタンフォード大学とカリフォルニア大学バークレー校の研究者らがTokenGateを発表:トークンゲート型アテンションにより、長文コンテキストのプリフィル処理が最大11.3倍高速化

スタンフォード大学とカリフォルニア大学バークレー校の研究者らは、既存の大規模言語モデル(LLM)に適用可能なプラグアンドプレイ型の学習ベースのトークン剪枝モジュール「TokenGate」を提案しました。この手法は、精度を損なうことなく、長文コンテキストに対する初期文字生成時間(TTFT)を1.4倍から11.3倍に加速し、ピークメモリ使用量を1.5倍から3.4倍削減します。関連コードおよびチェックポイントはオープンソースとして公開されています。

Researchers from Stanford and UC Berkeley Introduce TokenGate: Token-Gated Attention Makes Long-Context Prefill Up to 11.3x Faster
経緯と関連報道

セバスチャン・ラシュカが8本のビデオコース「ゼロから推論モデルを構築する」を公開しました

セバスティアン・ラシュカは2026年10月24日、Ahead of AI誌(magazine.sebastianraschka.com)において、全8回・総計11時間超のPythonおよびPyTorchに関する実践型ビデオ講座を公開しました。同講座では、推論モデルの評価、推論時のスケーリング、強化学習(RLVR)、知識蒸留について体系的に解説し、すべての手法を事前学習済みQwen3-0.6Bモデルを基に実装しています。

注目する理由:本コースは、著者が『ゼロから大規模言語モデルを構築する』に続いて提供する高度な技術教育コンテンツであり、現在の主流LLMの核心的な進化方向である推論能力の強化に焦点を当てています。基礎環境の構築からGRPO強化学習、自己蒸留に至るまで、一連の技術スタックを網羅しており、すべての実装が「ゼロから手書き」で再現可能であることを明示しています。そのため、高い教育効果と実践的なエンジニアリングリファレンスとしての価値を備えています。

経緯と関連報道

Amazon SageMaker AIがマルチラウンド強化学習(MTRL)フレームワークを発表し、エージェントによる多段階タスクのエンドツーエンド学習をサポートします

AWSはMulti-Turn Reinforcement Learning(MTRL)機能をリリースし、ユーザーはSageMaker AI上で、ステップ単位のアノテーションなしに、タスク全体の遷移と最終的な結果に基づいて大規模モデルエージェントを訓練できるようになりました。Wordleを例に、AgentCoreのデプロイ、データ準備、PPOトレーニング、報酬設計、コスト分析に至るまで、一連のワークフローを実演しています。

経緯と関連報道

IBMはGranite時系列統合予測モデルを発表しました。4つのモデルをゼロチューニングで組み合わせ、堅牢なデフォルトの予測ソリューションを提供します。

IBM Researchは、オープンソースのGranite Timeseries Ensemble(v1)を公開し、PatchTST-FM-r1/r2、FlowState、Tiny Time Mixersの4種類の事前学習アーキテクチャを統合して、ゼロ・ファインチューニングによる確率的アンサンブル予測をサポートしています。デフォルトでは等重みの確率的アンサンブル(Probabilistic Ensemble)を採用しており、四分位範囲に基づく適応的重み付け(IQR Ensemble)も提供されています。GIFT-Evalベンチマーク(2026年10月20日時点のスナップショット)において、点予測誤差(MASE=0.683)は最良の単一モデルをわずかに上回り、全体的なロバスト性が顕著に向上しています。

経緯と関連報道

OlmoEarth v1.3リリース:世界中の地表を対象とした高性能なオープンソースの衛星埋め込みモデル

アレン人工知能研究所は、OlmoEarth v1.3をリリースし、惑星全体で10メートルの解像度を持つ64次元および128次元の事前計算済み衛星埋め込みベクトルを提供するとともに、対話型探索ツール「Embeddings Explorer」も搭載しています。これにより、コード不要の変更検出、類似領域の検索、軽量な分類モデリングが可能になります。

経緯と関連報道

AI支援による「ブラインドスキャン」超音波技術が基層の妊産婦保健を支援:多施設共同前向き研究で地域を超えた汎化能力が検証される

Googleの研究チームは臨床機関と共同で前向き多施設共同研究を実施し、低コストな携帯型プローブを用い、超音波専門医でないスタッフが操作するAI駆動の「ブラインドスキャン」超音波検査手法が、シカゴおよびナイロビの両地域において、専門家レベルの超音波生体計測と同等の妊娠週数評価精度(平均絶対誤差4.18日対4.48日)を実現することを確認しました。さらに、ローカルデータによる微調整を必要とせず、資源が乏しい地域における産前超音波検査の普及に向けた実行可能な道筋を示しています。

経緯と関連報道

グーグルがゼロトラスト統合型プライベート分析技術を発表し、暗号技術と信頼できる実行環境を融合しました

Googleの研究チームは、革新的な単一ラウンドの格子暗号集約プロトコルと信頼できる実行環境(TEE)を連携して検証することで、特定の単一主体を信頼することなくデータを集約し、ユーザーのデータが常に端末に留まる状態を確保しつつ、集団レベルの匿名性を保った洞察を得られる新たなプライベート分析手法を発表しました。

経緯と関連報道