NVIDIA cuDSSが正式リリース:工学および科学シミュレーションにおける疎行列線形方程式系の解法を加速
NVIDIAは2026年10月26日(UTC)に、GPU上で大規模なスパース線形システムを効率的に解くために設計されたCUDA-XライブラリであるcuDSSが一般提供(GA)段階に移行したことを発表しました。これにより、半導体、航空、産業システムなどの分野におけるシミュレーションのスループットと反復処理の効率が大幅に向上します。
出典・テーマ・日時から、気になるニュースを見つけられます。
NVIDIAは2026年10月26日(UTC)に、GPU上で大規模なスパース線形システムを効率的に解くために設計されたCUDA-XライブラリであるcuDSSが一般提供(GA)段階に移行したことを発表しました。これにより、半導体、航空、産業システムなどの分野におけるシミュレーションのスループットと反復処理の効率が大幅に向上します。
Dharma-AIはVocabX手法を提案し、ポルトガル語の作文自動採点といった特定のタスク向けに言語モデルの語彙表を再構築することで、語彙の出現頻度ではなく生成コストを最適化目標としています。モデルの構造やパラメータ、学習プロセスを変更することなく、実測では推論コストが77%削減され、同時に評価指標(bench score)も0.703から0.810へ向上しました。
本記事は、Hugging FaceとAmazonが共同で公開する技術ブログシリーズの第1弾であり、AWS Trainium AIアクセラレーションチップ上でTorchNeuronを用いたPyTorchモデルの推論性能分析の手法を体系的に紹介します。内容には、Neuronバックエンドの統合原理、torch.profilerの設定方法、NeuronConfigおよびNeuronProfilerツールの利用、Neuron Explorerによる可視化トレースが含まれます。さらに、RMSNormを例に、3つの実装(従来のPyTorch、torch.rms_normの組み込み融合、torch.compileによる自動融合)間のデバイス上での実行時間の差異を比較しています。
i14は、30.28億パラメータを備えるLaplace 3Bモデルを発表しました。このモデルでは、Softmaxアテンションの代わりにゲート制御線形アテンション(GLA)を採用しており、推論時の各シーケンスあたりの再帰状態は常に29.5 MBで、コンテキスト長に依存しません。同モデルは、AWS trn2.48xlarge(Trainium2チップ16基搭載)1台でトレーニングおよびサービス検証を実施し、トレーニングスループットは12万トークン/秒、サービススループットは11,544出力トークン/秒(1,280同時実行シーケンス)に達しました。すべての性能データは、i14とAWS GenAIICチームによる社内実測結果です。
SF Computeはエヴァン・コンラッドによって設立され、中立的でプログラマブルかつ物理的な引渡しをサポートするGPU計算力取引インフラの構築に注力しています。同社のモデルはFLOPSという抽象的な商品を排し、ハードウェアの異種性や実際の納品、ならびに割り込み耐性、InfiniBandトポロジー、ファームウェアバージョンといったリアルタイムの制約を重視しています。これまでに数百億ドル規模の取引量を達成しており、動的なInfiniBandサブネット分割などの基盤機能も提供しています。
SF Computeはエヴァン・コンラッドによって設立され、GPUによる計算能力のプログラマブルかつ物理的に確約された取引の実現に注力しています。同社はデータセンターを自前で保有せず、フルスタック技術を用いて第三者の施設と連携して「主権型コンピューティングクラウド」を共同構築しており、市場の中立性とインフラの制御可能性を重視しています。これまでに数億ドル規模の取引額を達成し、InfiniBandの動的スライシングといった重要な機能も実装済みです。
生成AIの急増に伴う高帯域幅メモリーチップの需要急拡大に対応するため、サムスンは韓国・平沢にニューヨークのセントラルパークと同程度の面積を誇る半導体製造クラスターを建設しており、現在では3つのウェハファブが稼働中で、4つ目もまもなく量産開始、5つ目は2024年に需要低迷を受けて一時停止したものの、その後再開されています。現場では、高い水準の建設ペースと厳格な安全基準、そして労働力の整備が進められています。
Hugging Face は TorchTPU をリリースし、PyTorch にネイティブな TPU バックエンドを提供することで、Transformers や Diffusers などのライブラリを torch_xla に依存したり JAX へ移行することなく、直接 TPU 上で実行できるようにしました。
Hugging FaceはAnyLanguageModel 1.0を正式にリリースし、Apple Foundation Models APIと完全互換のオープンソースSwiftフレームワークを提供しています。ローカル(MLX、llama.cpp、Core ML)およびホスティング(OpenAI、Anthropic、Gemini、Hugging Face Inference Providersなど)のモデル間でシームレスに切り替えられるほか、画像入力、ツール呼び出し、ガイド付き生成、推論ブロックの自動適応などの新機能も追加されました。
Hugging FaceとAWSが共同でTorchNeuronを発表しました。これはPyTorch向けのネイティブなTrainiumバックエンドで、2026年10月20日よりパブリックベータが開始されます。この技術により、TransformersやDiffusersなどの主要ライブラリを変更することなく直接Trainiumチップ上で実行でき、テキスト生成および画像生成モデルの使いやすさと互換性が大幅に向上します。
GPUクラスターのインパクトのあるスケジューリング
トランスは現在、llama.cpp quants を実行します
Quantization-Aware Healing: 圧縮された4ビットモデルで、高精度のオリジナルを上回る
GPU管理: Idle GPUの理由 新しい地上航空機である
ネイティブスピードvLLMトランスフォーマーがバックエンドをモデル化
1つのコマンドでHFジョブでvLLMサーバーを実行