Import AI 478:アライメントのための数学、ProgramBench、およびMirendilがRSIの意味を示す
機械にとって「夜」とは何でしょうか?
出典・テーマ・日時から、気になるニュースを見つけられます。
機械にとって「夜」とは何でしょうか?
セバスティアン・ラシュカは2026年10月24日、Ahead of AI誌(magazine.sebastianraschka.com)において、全8回・総計11時間超のPythonおよびPyTorchに関する実践型ビデオ講座を公開しました。同講座では、推論モデルの評価、推論時のスケーリング、強化学習(RLVR)、知識蒸留について体系的に解説し、すべての手法を事前学習済みQwen3-0.6Bモデルを基に実装しています。
注目する理由:本コースは、著者が『ゼロから大規模言語モデルを構築する』に続いて提供する高度な技術教育コンテンツであり、現在の主流LLMの核心的な進化方向である推論能力の強化に焦点を当てています。基礎環境の構築からGRPO強化学習、自己蒸留に至るまで、一連の技術スタックを網羅しており、すべての実装が「ゼロから手書き」で再現可能であることを明示しています。そのため、高い教育効果と実践的なエンジニアリングリファレンスとしての価値を備えています。
AWSはMulti-Turn Reinforcement Learning(MTRL)機能をリリースし、ユーザーはSageMaker AI上で、ステップ単位のアノテーションなしに、タスク全体の遷移と最終的な結果に基づいて大規模モデルエージェントを訓練できるようになりました。Wordleを例に、AgentCoreのデプロイ、データ準備、PPOトレーニング、報酬設計、コスト分析に至るまで、一連のワークフローを実演しています。
IBM Researchは、オープンソースのGranite Timeseries Ensemble(v1)を公開し、PatchTST-FM-r1/r2、FlowState、Tiny Time Mixersの4種類の事前学習アーキテクチャを統合して、ゼロ・ファインチューニングによる確率的アンサンブル予測をサポートしています。デフォルトでは等重みの確率的アンサンブル(Probabilistic Ensemble)を採用しており、四分位範囲に基づく適応的重み付け(IQR Ensemble)も提供されています。GIFT-Evalベンチマーク(2026年10月20日時点のスナップショット)において、点予測誤差(MASE=0.683)は最良の単一モデルをわずかに上回り、全体的なロバスト性が顕著に向上しています。
Googleの研究チームは臨床機関と共同で前向き多施設共同研究を実施し、低コストな携帯型プローブを用い、超音波専門医でないスタッフが操作するAI駆動の「ブラインドスキャン」超音波検査手法が、シカゴおよびナイロビの両地域において、専門家レベルの超音波生体計測と同等の妊娠週数評価精度(平均絶対誤差4.18日対4.48日)を実現することを確認しました。さらに、ローカルデータによる微調整を必要とせず、資源が乏しい地域における産前超音波検査の普及に向けた実行可能な道筋を示しています。
Google CloudとNVIDIAは、Vera Rubinアーキテクチャを基盤とするA5Xインスタンスを来月から正式に商用提供すると発表しました。第一弾は米国で展開され、その後欧州へと拡大される予定です。このプラットフォームは、NVL72 GPU、ConnectX-9 SuperNIC、Virgoネットワーク、および第4世代の液冷技術を統合しており、大規模強化学習や生成型エージェントの推論など、高密度な計算負荷が求められるシナリオに特化して設計されています。
NVIDIAは、オープンソースの時系列予測モデル「Kumo Forecast」(旧称:NV-Tesseract Forecasting)を発表しました。同モデルはMOMENT-1-large Transformerアーキテクチャを基盤とし、直接予測とDomain-Aware Representation and Retrieval(DARR)による二重経路推論をサポートするとともに、モデル構造を変更することなく利用できる解釈可能性フレームワークを内蔵しています。
AWSチームは、Amazon SageMaker HyperPod上でGPT‑OSS‑20Bを用いた多言語推論の微調整実験を実施し、LoRAによるパラメータ効率的微調整を採用しました。SFTでは、英語・フランス語・ドイツ語・スペイン語・イタリア語の5言語における推論の言語正答率を22%から100%に引き上げましたが、回答言語の正答率は62%にとどまりました。GRPOはこれを踏まえ、回答言語の正答率をさらに70%まで向上させましたが、推論言語の性能には影響を与えませんでした。ただし、その効果は言語によって異なり、例えばスペイン語では30ポイント上昇する一方で、イタリア語では20ポイント低下しました。実験は、GRPOがゼロから新たな能力を創出することはできず、既存の偶発的な振る舞いを最適化するにすぎないことを明確に示しています。
Goodfireの研究者ニック・カマラタ氏は、2万6千語に及ぶ長文を公開し、大規模言語モデル(LLMs)の内部メカニズムは、学界の予想をはるかに上回るほど構造的で理解しやすい可能性があると主張している。その核心的な論点は、Inception v1などのモデルにおける「多義ニューロン」の再解釈に基づいており、たとえば「猫と車を同時に活性化するニューロン」は、無秩序な重複ではなく、V字型の視覚パターンに応答するものであるという見方を示している。なお、この見解は現行のLLMにおいて体系的な検証がまだ行われておらず、スタンフォード大学のクリス・ポッツ氏やAlignment Research Centerのジェイコブ・ヒルトン氏らによって、その普遍性および技術的深さについて疑問が呈されている。
1つのモデルファミリー、2つのゴールドレベルの結果:IOIとIMOのためのファインチューニングネモトロン
Fyxerは、OpenAIモデル、微調整、メモリ、および実際のユーザーフィードバックを使用して、各ユーザーの音声で受信トレイとメールのドラフトを整理します.
パウロ・クリスタノが、AIアライメント、安全、規格に関する経験を持たせる、OpenAI財団理事と安全衛生委員会に参画.
100 GRPOステップのよりよい構造された出力のための350Mモデルを微調整して下さい
トレーニングとマルチベクトルエンベディングモデルをセンテンストランスで調整
NVIDIA NeMo AutoModel を使用したトランスを高速化
ロラを超えて:最も人気のある微調整テクニックを打つことはできますか?