VocabX:コスト重み付けによる語彙の専門化により、分野特化型ミニ言語モデルの推論コストを77%削減
Dharma-AIはVocabX手法を提案し、ポルトガル語の作文自動採点といった特定のタスク向けに言語モデルの語彙表を再構築することで、語彙の出現頻度ではなく生成コストを最適化目標としています。モデルの構造やパラメータ、学習プロセスを変更することなく、実測では推論コストが77%削減され、同時に評価指標(bench score)も0.703から0.810へ向上しました。
公式発表と業界報道を集め、時系列で AI の変化を追います。









最新ニュースから、自分に合うツールまで。
Claude汎用アシスタント・検索ClaudeはAnthropicが提供するAIアシスタントで、対話により文章作成や資料の読解、データ分析、プログラミングを支援し、一部のタスクを編集可能なドキュメント、スプレッドシート、またはプレゼンテーションファイルに整理できます。アイデアや資料、下書きをつなぎ合わせたい個人やチームに適しています。
GGemini は Google のAIアシスタントで、対話によって執筆の支援や計画の立案、資料の整理、アップロードされたファイルの分析を行えます。また、Deep Research を使ってテーマに関する資料を検索し、研究レポートを生成することも可能です。
MMidjourneyは、テキストと参照画像から視覚作品を生成するAI創作ツールです。ウェブページの「Create」画面でプロンプトを入力し、生成されたバージョンを比較したうえで、バリエーションや編集、拡大、さらには画像から動画への変換といった機能を使って、さらに創作を進めることができます。
KKrea は、テキストや参照画像から画像を生成し、さまざまなモデルやバリエーションを比較したうえで、編集や細部の強化・拡大を行える、AI ビジュアルクリエイション向けのワークスペースです。また、動画やその他のクリエイティブツールへのアクセスも提供します。
RRunway は、動画生成、ビジュアル編集、クリエイティブな制作ワークフローを一体化したAIプラットフォームです。テキストや画像、既存の映像素材から始め、シーンを生成または編集し、さらに長尺化や拡大、エクスポートまで行えます。コンセプトムービーや広告、その他のビジュアル制作に活用できます。
SSunoは、テキストによる説明、歌詞、参考素材をもとに楽曲を生成するAI音楽プラットフォームです。ユーザーはボーカル入りの楽曲や音楽を生成し、さらに編集、リミックス、トラックの分離といった機能を使って制作を続け、共有することができます。
EElevenLabsは、AIによる音声生成、オーディオ制作、音声アバターを提供するプラットフォームです。クリエイターは吹き替え、オーディオブック、ポッドキャスト、ローカライズコンテンツを制作でき、開発者はAPIを通じて音声生成、文字起こし、対話機能にアクセスできます。
N
Notion AI業務・生産性向上Notion AI は、Notion のワークスペースに統合された AI アシスタントで、チームのナレッジの検索、ページの生成と編集、データベースの処理、会議内容の整理などに活用できます。ワークスペースと接続済みアプリケーションのコンテキストを組み合わせることで、情報の照会、コンテンツの整理、さらなるタスクの実行を、同じ作業環境で一貫して行えるよう支援します。
GGammaは、AIを活用してプレゼンテーション資料、ドキュメント、ウェブページ、ビジュアルコンテンツの作成を支援する製品で、目的やアウトライン、既存の資料をもとにコンテンツを生成し、その後、対話型操作やレイアウトの調整、自由な編集によって仕上げることができます。
CCursor はソフトウェア開発タスクを中心に機能するAIプログラミング製品で、コードのコンテキスト内で設計、変更、テスト、レビューを支援し、デスクトップ、コマンドライン、クラウドエージェントなどさまざまな利用形態を提供します。
Dharma-AIはVocabX手法を提案し、ポルトガル語の作文自動採点といった特定のタスク向けに言語モデルの語彙表を再構築することで、語彙の出現頻度ではなく生成コストを最適化目標としています。モデルの構造やパラメータ、学習プロセスを変更することなく、実測では推論コストが77%削減され、同時に評価指標(bench score)も0.703から0.810へ向上しました。
本記事は、Hugging FaceとAmazonが共同で公開する技術ブログシリーズの第1弾であり、AWS Trainium AIアクセラレーションチップ上でTorchNeuronを用いたPyTorchモデルの推論性能分析の手法を体系的に紹介します。内容には、Neuronバックエンドの統合原理、torch.profilerの設定方法、NeuronConfigおよびNeuronProfilerツールの利用、Neuron Explorerによる可視化トレースが含まれます。さらに、RMSNormを例に、3つの実装(従来のPyTorch、torch.rms_normの組み込み融合、torch.compileによる自動融合)間のデバイス上での実行時間の差異を比較しています。
i14は、30.28億パラメータを備えるLaplace 3Bモデルを発表しました。このモデルでは、Softmaxアテンションの代わりにゲート制御線形アテンション(GLA)を採用しており、推論時の各シーケンスあたりの再帰状態は常に29.5 MBで、コンテキスト長に依存しません。同モデルは、AWS trn2.48xlarge(Trainium2チップ16基搭載)1台でトレーニングおよびサービス検証を実施し、トレーニングスループットは12万トークン/秒、サービススループットは11,544出力トークン/秒(1,280同時実行シーケンス)に達しました。すべての性能データは、i14とAWS GenAIICチームによる社内実測結果です。
SF Computeはエヴァン・コンラッドによって設立され、中立的でプログラマブルかつ物理的な引渡しをサポートするGPU計算力取引インフラの構築に注力しています。同社のモデルはFLOPSという抽象的な商品を排し、ハードウェアの異種性や実際の納品、ならびに割り込み耐性、InfiniBandトポロジー、ファームウェアバージョンといったリアルタイムの制約を重視しています。これまでに数百億ドル規模の取引量を達成しており、動的なInfiniBandサブネット分割などの基盤機能も提供しています。
SF Computeはエヴァン・コンラッドによって設立され、GPUによる計算能力のプログラマブルかつ物理的に確約された取引の実現に注力しています。同社はデータセンターを自前で保有せず、フルスタック技術を用いて第三者の施設と連携して「主権型コンピューティングクラウド」を共同構築しており、市場の中立性とインフラの制御可能性を重視しています。これまでに数億ドル規模の取引額を達成し、InfiniBandの動的スライシングといった重要な機能も実装済みです。
生成AIの急増に伴う高帯域幅メモリーチップの需要急拡大に対応するため、サムスンは韓国・平沢にニューヨークのセントラルパークと同程度の面積を誇る半導体製造クラスターを建設しており、現在では3つのウェハファブが稼働中で、4つ目もまもなく量産開始、5つ目は2024年に需要低迷を受けて一時停止したものの、その後再開されています。現場では、高い水準の建設ペースと厳格な安全基準、そして労働力の整備が進められています。
Hugging Face は TorchTPU をリリースし、PyTorch にネイティブな TPU バックエンドを提供することで、Transformers や Diffusers などのライブラリを torch_xla に依存したり JAX へ移行することなく、直接 TPU 上で実行できるようにしました。
Hugging FaceはAnyLanguageModel 1.0を正式にリリースし、Apple Foundation Models APIと完全互換のオープンソースSwiftフレームワークを提供しています。ローカル(MLX、llama.cpp、Core ML)およびホスティング(OpenAI、Anthropic、Gemini、Hugging Face Inference Providersなど)のモデル間でシームレスに切り替えられるほか、画像入力、ツール呼び出し、ガイド付き生成、推論ブロックの自動適応などの新機能も追加されました。
Hugging FaceとAWSが共同でTorchNeuronを発表しました。これはPyTorch向けのネイティブなTrainiumバックエンドで、2026年10月20日よりパブリックベータが開始されます。この技術により、TransformersやDiffusersなどの主要ライブラリを変更することなく直接Trainiumチップ上で実行でき、テキスト生成および画像生成モデルの使いやすさと互換性が大幅に向上します。
Quantization-Aware Healing: 圧縮された4ビットモデルで、高精度のオリジナルを上回る
Differential acceleration of cyber, math, and AI
翻訳待ち・原文を表示中 · enFigure 1: CUDA-to-MLX optimization translation map. CUDA optimization knowledge can be translated into architecture-native MLX strategies rather than copied instruction-for-instruction. We face a new epoch in computing. Hardware is changing rapidly — not just faster GPUs, but a growing range of chips from different vendors, each with its own architecture and often tailored to specific AI workloads. Software is changing just as fast, and AI coding tools now generate in minutes what took months of effort a few years ago. With so much of computing now centered on AI, GPU kernels are a crucial component of its success. These are the low-level programs that run inside the GPU, and writing efficient ones is far from obvious — it takes years of expertise to get right. Transferring a kernel from o
翻訳待ち・原文を表示中 · en... government of the people, by the people, for the people ... — Abraham Lincoln, Gettysburg Address (1863) The cost of AI is dropping rapidly. GPT-4-class capabilities cost roughly $30 per million tokens in early 2023; today the same runs under $1, and some providers are pushing costs below $0.10. Across benchmarks, inference prices have fallen between 9x and 900x per year, with a median decline near 50x. Even frontier models are getting dramatically cheaper each generation, with open-source models following closely behind. And crucially, even if “Nobel-Prize-winning genius-level” intelligence isn’t here yet, the intelligence that suffices for the vast majority of knowledge work is here today, and getting cheaper by the month. At this rate, we are soon entering the era of virtually free
翻訳待ち・原文を表示中 · enIs this the beginning of a new world?
翻訳待ち・原文を表示中 · enWhat eras bookend our interregnum?
翻訳待ち・原文を表示中 · en好奇心に方向を。毎日の読書を、より価値あるものに。