本文へ移動
AI NEWSAI の一歩を見つめる
ニュースのブックマーク
THE JOURNAL
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI の全ニュース

出典・テーマ・日時から、気になるニュースを見つけられます。

公開日時順

llama.cpp releases

b11927

metal：GGML_OP_TOP_K_MASK を追加（#31230） * metal：GGML_OP_TOP_K_MASK を追加 CUDA バックエンドから融合された top-k マスクを移植：グリッドストライドカーネルが出力に -inf を埋め込み、その後、各行ごとに 1 つのスレッドグループが、保持されるセルのマスク値を上書きします。関数定数は、特定のグラフで使用されないスコア、ブロック、および余分な経路を除外します。 協力者：dsh:llama.cpp/ggml-org/Qwen3.8-Flash-Next-GGUF（MacBook、M5 Max、128GB） * metal：top-k マスクカーネルの書式を整備 協力者：dsh:llama.cpp/ggml-org/Qwen3.8-Flash-Next-GGUF（MacBook、M5 Max、128GB） **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11927/llama-b11927-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI 有効）[無効]（

経緯と関連報道
llama.cpp releases

b11926

glm5-next：kq_maskなしのQSA（+ DSA）（#31009）* glm5-next：kq_maskなしのQSA * DSA：dsa top-kマスクの変更を、DeepSeek-V3.2のレイヤー0および3でテスト済み **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11926/llama-b11926-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI有効）[無効化](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.cpp/releases/download/b11926/llama-b11926-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b11926/llama-b11926-xcframework.zip) **Linux：** - [Ubuntu x64（CPU）](https://github.com/ggml-org/llama.cpp/releases/download/b11926/llama-b11926-bin-ubuntu-x64.t)

経緯と関連報道
llama.cpp releases

b11925

ci：ROCm リリースビルドで ccache の依存モードを使用 (#31231) **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11925/llama-b11925-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64、KleidiAI 有効) [無効](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel (x64)](https://github.com/ggml-org/llama.cpp/releases/download/b11925/llama-b11925-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b11925/llama-b11925-xcframework.zip) **Linux：** - [Ubuntu x64 (CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b11925/llama-b11925-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64 (CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b1192)

経緯と関連報道
llama.cpp releases

b11923

ggml：非連続なビューに対してスケールを緩和 (#31146) * ggml：非連続なビューに対してスケールを緩和 SCALE では src0 が 1 次元の連続メモリであることが要求されます。これを、任意の行ストライド（ggml_is_contiguous_rows）を持つ次元 0 の連続性に緩和し、Metal バックエンドの単項演算と同様の動作を実現します。 - ggml：ggml_scale_impl におけるアサートを緩和 - cpu：src0 の各行をバイトストライド（f32、bf16）に基づいてアクセス - cuda：ストライド対応のカーネル、高速除算による行分解 - metal：bf16 スケールをサポート（ガード付きの単項インスタンス化） - sycl：ゲートは連続状態を維持し、カーネルはフラットな f32 を使用 test_scale にビュー変種を追加。CPU、Metal、CUDA で検証済み。補助者：dsh:llama.cpp/ggml-org/Qwen3.8-Flash-Next-GGUF（RTX 5090 32GB、DDR5 128GB） * cuda：非連続なビューではソフトキャップ融合をスキップ 融合されたソフトキャップカーネルは src と w を読み込みます

経緯と関連報道
llama.cpp releases

b11922

tests：訓練済みモデルに対するマルチシーケンス分割リプレイおよび部分状態のケースを修正（#31216）* tests：訓練済みモデルに対するマルチシーケンス分割リプレイを修正 ロールバック時のスナップショットは、ロールバックされた末尾をデコードしたグラフによって取得される一方で、参照コンテキストは異なるバッチ形状を持つ同じプレフィックスをデコードします。両者の状態は最後のビット部分で異なり、訓練済みモデルではリプレイされる各トークンごとにその差が拡大されます。各シーケンスの最初にリプレイされたトークンのみを比較し、その後、シーケンス1つ分だけの末尾が存在する前の状態を参照コンテキストに復元します。補助者：dsh:llama.cpp/ggml-org/Qwen3.8-Flash-Next-GGUF（MacBook、M5 Max、128GB）* tests：分割リプレイにおいてビット単位で正確なシーケンス1の分離を要求 シーケンス状態の保存は常にビット損失なしとは限らず、SWAでマスクされたセルは保存されないため、残りの部分を再読み込みします

経緯と関連報道
llama.cpp releases

b11921

llama：メモリインスタンスから廃止されたn_padを削除（#31200） すべての呼び出し元でn_pad = 1が渡されており、使用している2つの実装のみがそれを256に固定しています。このパラメータおよびそのメンバ変数、さらに自明に真であるkv_sizeのアサートは削除します。 協力者：dsh:llama.cpp/ggml-org/Qwen3.8-Flash-Next-GGUF（MacBook、M5 Max、128GB） **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11921/llama-b11921-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI有効）[無効化](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.cpp/releases/download/b11921/llama-b11921-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b11921/llama-b11921-xcfram)

経緯と関連報道
llama.cpp releases

b11919

opencl：mul mat id -1 インデックスを改良（#31170） 協力：Codex **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11919/llama-b11919-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI有効）【無効】(https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.cpp/releases/download/b11919/llama-b11919-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b11919/llama-b11919-xcframework.zip) **Linux：** - [Ubuntu x64（CPU）](https://github.com/ggml-org/llama.cpp/releases/download/b11919/llama-b11919-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64（CPU）](https://github.com/ggml-org/llama.cpp/releases/download/b11)

経緯と関連報道
llama.cpp releases

b11918

opencl：q3_k の初期サポート（#31172）* opencl：q3_k AOS メモリ転送を追加* opencl：q3_k SOA メモリ転送およびタイリングされた行列乗算を追加* opencl：adreno 用に q3_k noshuffle gemm/gemv を追加* opencl：adreno 用に q3_k dp4a gemm を追加共著者：Hongqiang Wang* opencl：adreno 用に q3_k カーネルをチューニング共著者：Hongqiang Wang---------共著者：Hongqiang Wang**ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11918/llama-b11918-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI 有効）[無効化](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.cpp/releases/download/b11918/llama-b11918-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/ll)

経緯と関連報道
MarkTechPost

vLLM セマンティックルーターが d3-ultra をリリース：270億パラメータのオープンなマルチモーダル意思決定モデル

vLLMセマンティックルーターは、270億パラメータ規模のオープンウェイトなマルチモーダル意思決定モデルであるd3-ultraをリリースしました。同モデルはテキスト、画像、動画を一度に読み込み、各回答に対する確率を返却し、チームのSR-Textテストで87.2点を獲得しています。この記事「vLLMセマンティックルーター、270億パラメータ規模のオープンマルチモーダル意思決定モデルd3-ultraをリリース」は、MarkTechPostに最初に掲載されました。

新闻源配图 · MarkTechPost
経緯と関連報道
llama.cpp releases

b11913

hexagon：GGML_HEXAGON_VTCM_SIZE を追加（#31221）* hexagon：GGML_HEXAGON_VTCM_MB および GGML_HEXAGON_NTHREADS の上限を追加 変更ID：Idffe1613c8db6f96aa842d43d1b2efaed45462a8 * hexagon：VTCM 上限を GGML_HEXAGON_VTCM_SIZE に名称変更し、NTHREADS 上限は廃止 変更ID：If4c5b9ce9fd6b725c3561421c2295d40599d012d * hexagon：GGML_HEXAGON_VTCM_SIZE をオーバーライド可能な設定とし、K/M/G の接尾辞を許容 変更ID：Ib8eea84c22f24e6d986b37f215e504b046478c2c **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11913/llama-b11913-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI 有効）[無効化](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.cpp/releases/download/b11913/llama-b)

経緯と関連報道
llama.cpp releases

b11912

llama：laguna向けにmoe amaxリスケーリングを有効化（#31147）* llama：laguna向けにmoe amaxリスケーリングを有効化　支援者：Devin * llama：lagunaのsmテンソルサポートを宣言 **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11912/llama-b11912-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI有効）[無効](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.cpp/releases/download/b11912/llama-b11912-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b11912/llama-b11912-xcframework.zip) **Linux：** - [Ubuntu x64（CPU）](https://github.com/ggml-org/llama.cpp/releases/download/b11912/llama-b11912-bin-u)

経緯と関連報道
llama.cpp releases

b11910

opencl：set_tensor に KV キャッシュのビューを書き込むことで、状態復元が失われないようにしました（#30471） **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11910/llama-b11910-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI 有効）[無効](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.cpp/releases/download/b11910/llama-b11910-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b11910/llama-b11910-xcframework.zip) **Linux：** - [Ubuntu x64（CPU）](https://github.com/ggml-org/llama.cpp/releases/download/b11910/llama-b11910-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64（CPU）](https://github.com/ggml-org/llama.cp)

経緯と関連報道
llama.cpp releases

b11909

hexagon：MUL_MAT_ID の行スキップに関する最適化と改善（#31169） * hex-mmid：スキップされた行のゼロ初期化をベクトル化し、融合された MM_ID_NX にもゼロ初期化を追加 * hex-mmid：スカラー除算を削除 **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11909/llama-b11909-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI 有効）[無効](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.cpp/releases/download/b11909/llama-b11909-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b11909/llama-b11909-xcframework.zip) **Linux：** - [Ubuntu x64（CPU）](https://github.com/ggml-org/llama.cpp/releases/download/b11909/)

経緯と関連報道
llama.cpp releases

b11908

llama：llama_hparams から no_alloc を移動 (#31141) * llama：llama_hparams から no_alloc を移動 協力者：dsh:llama.cpp/ggml-org/GLM-5.3-Flash-GGUF（2台のDGX Spark、RDMA、TP=2） * cont：整理 * cont：整理 協力者：dsh:llama.cpp/ggml-org/GLM-5.3-Flash-GGUF（2台のDGX Spark、RDMA、TP=2） * tests：test-llama-context に no_alloc ケースを追加 協力者：dsh:llama.cpp/ggml-org/GLM-5.3-Flash-GGUF（2台のDGX Spark、RDMA、TP=2） **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11908/llama-b11908-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI有効）[無効化](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.cpp/releases/downlo)

経緯と関連報道
llama.cpp releases

b11907

モデル：ggml_tensor** の出力パラメータを出力構造体に置き換え (#31142) ハイパーリンクとDSAグラフビルダーは、追加の出力（ポスト/コンブゲート、トップk選択のキャリー、インジェクトゲート）を ggml_tensor** の出力パラメータを通じて記述していました。代わりに、主要な出力の隣に小さな構造体として返すように変更しました。補助者：dsh:llama.cpp/ggml-org/Qwen3.8-Flash-Next-GGUF（MacBook、M5 Max、128GB） **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11907/llama-b11907-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI有効）[無効化](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.cpp/releases/download/b11907/llama-b11907-bin-macos-x64.tar.gz) - [

経緯と関連報道
llama.cpp releases

b11906

ggml-cpu：すべての型に対して、concatを1行のカーネルに書き直す（#31179） 各ターゲット行は、ソース0またはソース1から生成されるか、次元0の場合にはソース0の行に続いてソース1の行が続くため、単一のカーネルで全型をカバーできます。密度の高いソース行は、量子化された型を含めて、1回のmemcpyで処理され、ストライド付きのソースはコンパイル時に要素サイズが判明しているため、要素ごとにコピーされます。行はi2だけで分割するのではなくスレッド間で分割され、通常は1であるi2よりも効率的です。また、32要素ずつのタイル単位でコピーされます。転置されたソースの場合、外側のループで要素を順に走査するため、タイル内の各行は隣接するアドレスを読み取り、要素ごとにフルな行のストライドを飛ばすのではなくなります。test_concatやdelta-net conv入力のレイアウト、さらにその性能テスト用のケースに、転置されたbケースを追加してください。 **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Sili

経緯と関連報道
llama.cpp releases

b11905

vulkan：サブグループ削減を用いたrmsノルム最適化（#29882） * RMSノルム サブグループ削減による最適化 * ビルドエラーの修正 * 最適化の改善 * BLOCK_SIZE の使用を一貫性のあるものに調整 * 第2サブグループをスキップする高速経路を追加 * サブグループ削減オプションにAMDベンダーを追加 * rms_dictおよびmerge_mapsの動作を明確にするコメントを追加 * ユニロールの追加 * リベース * 構文上の問題を修正 * 非サブグループ経路に128/256/512ブロックサイズを追加 * 末尾の空白を削除 **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11905/llama-b11905-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI有効）[無効](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.c)

経緯と関連報道
llama.cpp releases

b11904

sycl：単純なMMVQの起動トリプルをテンプレート化（#31013） **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11904/llama-b11904-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI有効）[無効](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.cpp/releases/download/b11904/llama-b11904-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b11904/llama-b11904-xcframework.zip) **Linux：** - [Ubuntu x64（CPU）](https://github.com/ggml-org/llama.cpp/releases/download/b11904/llama-b11904-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64（CPU）](https://github.com/ggml-org/llama.cpp/releases/download/b11904/llama)

経緯と関連報道
llama.cpp releases

b11901

sycl：バウンドリオーダーのテンポラリメモリを32 MiBに設定（#31062） **ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11901/llama-b11901-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI有効）[無効](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.cpp/releases/download/b11901/llama-b11901-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b11901/llama-b11901-xcframework.zip) **Linux：** - [Ubuntu x64（CPU）](https://github.com/ggml-org/llama.cpp/releases/download/b11901/llama-b11901-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64（CPU）](https://github.com/ggml-org/llama.cpp/releases/download/b11901/llama-b)

経緯と関連報道

llama.cpp releases

b11900

common：実際のHFリポジトリのレイアウトにおけるモデル解決を固定化（#30548） * tests：実際のリポジトリ一覧におけるモデル解決を固定化 HF APIから逐語的に取得した63件のリポジトリ一覧を用いてtest-model-resolutionを拡張し、主要な出版社が提供する1,237件のGGUFリポジトリに見られるすべてのファイル命名パターンを網羅するよう選定したうえで、全量の量子グループに絞り込んでいます。各リポジトリは、解決済みのプランとキャッシュの一覧を固定化しています。期待値は、現行の解決器が選択するものではなく、各ファイルのGGUFヘッダーに基づく実際の内容に従うため、不一致は解決に関するバグとして扱われます。不一致はテストが失敗する前にまとめて収集・報告されます。 * tests：ファイルシステムが拒否するパスについては、一覧表示を未チェックのまま残す 実際の分割名（量子フォルダー配下にあるDevQuasarのModel.Q2_K.gguf-00001-of-00012.ggufなど）は、実際に展開するとMAX_PATHを超えることがあります

経緯と関連報道