제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
llama.cpp는 버전 b11870에서 DeepSeek-V4.1-Flash(deepseek41) 모델을 지원하며, Engram 아키텍처를 기반으로 KV 캐시 계산 간소화, BF16 정밀도를 MXFP8로 대체, 인그래프 내 행 수집 등 여러 하위 수준 최적화를 수행했습니다. 또한 macOS, Linux, Windows, Android, iOS 및 openEuler를 포괄하는 다중 플랫폼 바이너리 빌드를 동시에 제공합니다.
llama.cpp 프로젝트는 빌드 버전 b11869를 출시했으며, 주요 수정 사항으로 Jinja 템플릿의 select 및 selectattr 함수에서 인수 해석 로직을 개선했고, macOS, Linux, Windows, Android, iOS 및 openEuler 등 수십 가지 하드웨어와 백엔드 조합에 대한 미리 컴파일된 바이너리 패키지를 제공합니다.
llama.cpp v.b11866 버전에서는 Metal 백엔드에 존재하던 구식 src1의 2의 거듭제곱 형태 AMAX 스케일링 메커니즘을 제거하고, 대신 계산 그래프 내에서 전문가 토큰별로 보다 세밀한 amax 스케일링을 적용하여 MoE 하에서 프로젝션 활성화 값이 f16 표현 범위 내에 유지되도록 보장합니다. 동시에 관련된 이단계 축약 핵심 함수, F32 정밀도 스케줄링 및 경계 위반 테스트 케이스도 함께 삭제되었습니다.
llama.cpp 프로젝트는 빌드 버전 b11865를 출시했으며, 핵심 변경 사항으로는 RDMA 수신 로직에 메모리 경계 검사를 추가하고(PR #30399), CUDA 13.4, ROCm 10.0, Vulkan, OpenVINO, SYCL 및 퀄컴 스냅드래곤(CPU+Adreno+Hexagon)의 풀스택 이기종 컴퓨팅 백엔드를 포함해 하드웨어 가속 지원을 대폭 확장한 점이 있습니다. 또한 macOS용 KleidiAI 지원과 openEuler 빌드는 명시적으로 DISABLED로 표시되었습니다.
llama.cpp v.b11861은 minimax-m3 모델에서 NVFP4/MXFP8 양자화 시 스케일 텐서가 계산 그래프에 주입되지 않아 발생하던 가중치 왜곡 문제를 해결하여 ‘토큰 수프’ 현상과 잔차 소멸을 방지합니다. 또한 macOS, Linux, Windows, Android, iOS 및 openEuler를 지원하는 다중 플랫폼 바이너리 빌드를 함께 제공합니다.
