搜索 AI 资讯

llama.cpp 发布 b11871 版本：新增 JSON 嵌套深度限制以防止服务崩溃

llama.cpp 在 b11871 版本中引入关键安全修复，对请求中 JSON 嵌套层级实施 128 层硬性限制，避免因深度递归解析导致 HTTP 线程栈溢出、服务崩溃（macOS 触发 SIGBUS，Linux 触发 SIGSEGV）。该策略覆盖 chat 接口多类输入场景，并统一返回 HTTP 400 错误。

推荐理由：按信源设置仅收录，不参与自动精选

Underdog Saluki 27B：基于GSQ-RCO的2比特Qwen3.8-27B工具调用模型技术解析

本文介绍Underdog发布的Saluki 27B模型——一款7.9 GB的2比特量化Qwen3.8-27B变体，采用ISTA-DASLab的GSQ-RCO方法构建，声称在120任务BFCL v4工具调用基准上超越原54 GB全精度模型；但所有性能结论均来自其开发者声明，未获独立验证。

llama.cpp 发布 b11870 版本，正式支持 DeepSeek-V4.1-Flash 模型

llama.cpp 在版本 b11870 中新增对 DeepSeek-V4.1-Flash（deepseek41）模型的支持，并针对其 Engram 架构进行多项底层优化，包括 KV 缓存计算简化、BF16 精度替代 MXFP8、in-graph 行 gather 等；同步提供覆盖 macOS、Linux、Windows、Android、iOS 及 openEuler 的多平台二进制构建。

推荐理由：按信源设置仅收录，不参与自动精选

llama.cpp 发布 b11869 版本：修复 Jinja 模板函数参数处理，新增多平台二进制支持

llama.cpp 项目发布构建版本 b11869，主要修复 Jinja 模板中 select 和 selectattr 函数的参数解析逻辑，并提供覆盖 macOS、Linux、Windows、Android、iOS 及 openEuler 的数十种硬件与后端组合的预编译二进制包。

推荐理由：按信源设置仅收录，不参与自动精选

llama.cpp 发布 b11867 版本：服务端入口重构，全面支持多平台与异构加速后端

llama.cpp 于 GitHub 正式发布 b11867 版本，核心变更包括服务端（server）入口点重构（PR #31113），新增 server_role 机制；同时提供覆盖 macOS、Linux、Windows、Android、iOS 及 openEuler 的 40+ 预编译二进制包，支持 CPU、CUDA（12.4/12.8/13.4）、Vulkan、ROCm 10.0、OpenVINO、SYCL（FP16/FP32）、Snapdragon（Adreno+Hexagon）等多元硬件后端。

推荐理由：按信源设置仅收录，不参与自动精选

llama.cpp 发布 b11865 版本：新增 RDMA 接收边界检查，支持 CUDA 13.4、ROCm 10.0、Snapdragon NPU 等多平台后端

llama.cpp 项目发布构建版本 b11865，核心变更包括在 RDMA 接收逻辑中增加内存边界检查（PR #30399），并显著扩展硬件加速支持，覆盖 CUDA 13.4、ROCm 10.0、Vulkan、OpenVINO、SYCL 及高通 Snapdragon（CPU+Adreno+Hexagon）全栈异构计算后端；macOS KleidiAI 支持与 openEuler 构建被明确标记为 DISABLED。

推荐理由：按信源设置仅收录，不参与自动精选

llama.cpp 发布 b11861 版本：修复 minimax-m3 模型量化缩放张量未传递导致的推理异常

llama.cpp v.b11861 修复了 minimax-m3 模型在 NVFP4/MXFP8 量化下因 scale 张量未注入计算图而导致的权重失真问题，避免‘token soup’与残差淹没；同步提供覆盖 macOS、Linux、Windows、Android、iOS 及 openEuler 的多平台二进制构建。

推荐理由：按信源设置仅收录，不参与自动精选