本文へ移動
AI NEWSAI の一歩を見つめる
ニュースのブックマーク
THE JOURNAL
AI NEWS JOURNAL
ONE EVENT. MANY PERSPECTIVES.

llama.cpp · b11918

opencl: initial support for q3_k (#31172) * opencl: add q3_k AOS mv * opencl: add q3_k SOA mv and tiled mm * opencl: add q3_k noshuffle gemm/gemv for adreno * opencl: add q3_k dp4a gemm for adreno Co-authored-by: Hongqiang Wang * opencl: tune q3_k kernels for adreno Co-authored-by: Hongqiang Wang --------- Co-authored-by: Hongqiang Wang **Website:** - **Attestations:** - **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11918/llama-b11918-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI enabled) [DISABLED](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel (x64)](https://github.com/ggml-org/llama.cpp/releases/download/b11918/llama-b11918-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/ll

1 件の独立した情報源 · 1 件の報道古い順 ↕
公開日時順

llama.cpp releases

b11918

opencl：q3_k の初期サポート（#31172）* opencl：q3_k AOS メモリ転送を追加* opencl：q3_k SOA メモリ転送およびタイリングされた行列乗算を追加* opencl：adreno 用に q3_k noshuffle gemm/gemv を追加* opencl：adreno 用に q3_k dp4a gemm を追加共著者：Hongqiang Wang* opencl：adreno 用に q3_k カーネルをチューニング共著者：Hongqiang Wang---------共著者：Hongqiang Wang**ウェブサイト：** - **証明書：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b11918/llama-b11918-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64、KleidiAI 有効）[無効化](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.cpp/releases/download/b11918/llama-b11918-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/ll)

経緯と関連報道