llama.cpp · b11905

vulkan: rms norm optimization using subgroup reductions (#29882) * RMS Norm Subgroup reductions optimizaton * Fix build error * Improved optimization * Make usage of BLOCK_SIZE consistent * Add fast path to skip 2nd subgroupAdd * Add AMD Vendor to subgroup reduction opt * Add comment clarifying rms_dict and merge_maps behavior * Add unroll * Rebase * Fixed syntax issue * Add 128/256/512 block sizes to non-subgroup path * Remove trailing whitespace **Website:** - **Attestations:** - **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11905/llama-b11905-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI enabled) [DISABLED](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel (x64)](https://github.com/ggml-org/llama.c

1 개 독립 출처 · 1 건의 보도오래된순 ↕

2026-10-27

llama.cpp releases03:08

b11905

vulkan: 서브그룹 리덕션을 이용한 rms 노름 최적화(#29882) * RMS 노름 서브그룹 리덕션 최적화 * 빌드 오류 수정 * 개선된 최적화 * BLOCK_SIZE의 사용을 일관되게 유지 * 2차 서브그룹 추가를 건너뛰는 고속 경로 추가 * 서브그룹 리덕션 옵트에 AMD 벤더 추가 * rms_dict와 merge_maps의 동작을 명확히 하는 주석 추가 * unroll 추가 * 재베이스 * 구문 문제 수정 * 비서브그룹 경로에 128/256/512 블록 크기 추가 * 후행 공백 제거 **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11905/llama-b11905-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.c)

진행 상황 및 관련 보도