搜索 AI 资讯

b11877

vulkan: Add a larger tile size for conv3d (coopmat2 only) (#29920) * vulkan: Add a larger tile size for conv3d (coopmat2 only) This adds a larger tile size, in practice it is only for coopmat2 where we don't need shared memory to store the output (would use more than 64KB). Add some additional representative backend tests. At least, this is what codex came up with from looking at sd.cpp Wan VAE. * only apply large tile size for newer driver versions **Website:** - **Attestations:** - **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11877/llama-b11877-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI enabled) [DISABLED](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel (x64)](https://github.com/ggml-org/llama

面板厂商集体涨价应对AI引发的上游成本挤压，但下游接受度低、终端品控承压

2026年9月起，TCL华星、京东方、惠科等面板厂商密集发布涨价函，主因AI大模型发展导致HBM需求激增，挤占成熟制程芯片产能，推高驱动IC、PCB、玻璃基板等关键物料价格；康宁等上游供应商同步提价。尽管成本端压力明确，但下游电视/显示器品牌采购价未普涨，终端用户投诉过热、黑点等品控问题频发，涨价尚未转化为实际成交与体验升级。

推荐理由：材料系统揭示了AI产业对非直接关联硬件行业的跨链传导机制——非因AI拉动面板需求，而是通过晶圆产能再分配引发全链条成本重定价；同时呈现涨价行为与市场真实反馈（价格僵持、出货下滑、用户投诉）之间的显著落差，凸显产业议价权与产品力不匹配的深层矛盾。

美国反数据中心运动可借鉴的全球经验：从爱尔兰电网危机到新西兰社区AI实践

巴黎·马克思在《超大规模》一书中梳理全球数据中⼼抗争史，指出爱尔兰因电网容量饱和实施禁令、企业转而私建燃气电厂；新西兰则探索以本地云支持毛利语语音识别的非掠夺性AI路径；美国当前爆发的反对浪潮实为早有预兆的全球性矛盾重演。

Underdog Saluki 27B：基于GSQ-RCO的2比特Qwen3.8-27B工具调用模型技术解析

本文介绍Underdog发布的Saluki 27B模型——一款7.9 GB的2比特量化Qwen3.8-27B变体，采用ISTA-DASLab的GSQ-RCO方法构建，声称在120任务BFCL v4工具调用基准上超越原54 GB全精度模型；但所有性能结论均来自其开发者声明，未获独立验证。

llama.cpp 发布 b11869 版本：修复 Jinja 模板函数参数处理，新增多平台二进制支持

llama.cpp 项目发布构建版本 b11869，主要修复 Jinja 模板中 select 和 selectattr 函数的参数解析逻辑，并提供覆盖 macOS、Linux、Windows、Android、iOS 及 openEuler 的数十种硬件与后端组合的预编译二进制包。

推荐理由：按信源设置仅收录，不参与自动精选

llama.cpp 发布 b11868 版本：增强 Hexagon NPU 多核 Flash Attention 支持，覆盖全平台编译构建

llama.cpp v2.45.0（标签 b11868）正式发布，核心更新为 Hexagon 后端引入 KV-head 团队拆分机制以优化多核 HMX Flash Attention 性能，并统一 FA 拆分控制标志；同步提供 macOS、Linux、Windows、Android、iOS 及 openEuler 等全平台二进制包，含 CUDA 12/13、Vulkan、ROCm、OpenVINO、SYCL、Snapdragon（Adreno+Hexagon）等多后端支持。

推荐理由：按信源设置仅收录，不参与自动精选

llama.cpp 发布 b11867 版本：服务端入口重构，全面支持多平台与异构加速后端

llama.cpp 于 GitHub 正式发布 b11867 版本，核心变更包括服务端（server）入口点重构（PR #31113），新增 server_role 机制；同时提供覆盖 macOS、Linux、Windows、Android、iOS 及 openEuler 的 40+ 预编译二进制包，支持 CPU、CUDA（12.4/12.8/13.4）、Vulkan、ROCm 10.0、OpenVINO、SYCL（FP16/FP32）、Snapdragon（Adreno+Hexagon）等多元硬件后端。

推荐理由：按信源设置仅收录，不参与自动精选

llama.cpp 发布 b11865 版本：新增 RDMA 接收边界检查，支持 CUDA 13.4、ROCm 10.0、Snapdragon NPU 等多平台后端

llama.cpp 项目发布构建版本 b11865，核心变更包括在 RDMA 接收逻辑中增加内存边界检查（PR #30399），并显著扩展硬件加速支持，覆盖 CUDA 13.4、ROCm 10.0、Vulkan、OpenVINO、SYCL 及高通 Snapdragon（CPU+Adreno+Hexagon）全栈异构计算后端；macOS KleidiAI 支持与 openEuler 构建被明确标记为 DISABLED。

推荐理由：按信源设置仅收录，不参与自动精选

llama.cpp 发布 b11861 版本：修复 minimax-m3 模型量化缩放张量未传递导致的推理异常

llama.cpp v.b11861 修复了 minimax-m3 模型在 NVFP4/MXFP8 量化下因 scale 张量未注入计算图而导致的权重失真问题，避免‘token soup’与残差淹没；同步提供覆盖 macOS、Linux、Windows、Android、iOS 及 openEuler 的多平台二进制构建。

推荐理由：按信源设置仅收录，不参与自动精选

英特尔获美 FCC 外国制造机器人禁令豁免，以保障芯片厂自动化物流

美国联邦通信委员会（FCC）于2026年10月22日批准英特尔为期一年的豁免许可，允许其在美国晶圆厂继续使用特定外国制造的自动导引车（AGV），因原禁令措辞模糊可能误伤关键半导体制造设备。

哈萨克斯坦加速构建AI算力基础设施，Firebird获美出口许可部署4.5万颗NVIDIA Grace Blackwell GPU

哈萨克斯坦AI生态正从规划阶段转向规模化部署，Firebird公司获美国出口许可，在哈建设AI工厂，首期部署4.5万颗NVIDIA Grace Blackwell GPU；Kazakhtelecom已上线超千颗H200/B300 GPU，并计划2025年新增超2000颗Vera Rubin等GPU；多方协同推进算力供给、开发者接入与本土AI应用落地。

Amazon SageMaker AI 推出无GPU管理的模型定制训练会话，正式全面可用

AWS 宣布 SageMaker AI 无服务器模型定制功能新增「训练会话（Training Sessions）」，即日起全面可用。用户可自主编写后训练逻辑（如自定义损失函数、奖励信号、多轮强化学习），而 GPU 分配、分布式执行、容错恢复与检查点存储均由平台自动处理。

Amazon SageMaker推出训练会话API：用户可编写自定义大模型训练循环，无需管理GPU

Amazon SageMaker发布训练会话（Training Sessions）API，支持用户以纯Python脚本实现SFT、RLHF、GRPO、KTO等自定义大模型训练逻辑，GPU资源调度、容错、分布式执行及检查点管理均由服务托管。

Why AI Compute Comes in Rectangles — Erik Bernhardsson, Modal CEO

Elastic GPUs, sandbox growth, and the economics of the agent cloud

Why AI Compute Comes in Rectangles — Erik Bernhardsson, Modal CEO

Elastic GPUs, sandbox growth, and the economics of the agent cloud

NVIDIA推动欧洲零售业转型：开放模型与物理智能落地电商、仓储与虚拟试穿

欧洲零售商正依托NVIDIA加速的开放大模型与物理AI技术，在数字商品发现、智能仓储仿真、虚拟试穿及研发加速等场景实现规模化落地。Shopify、Zooplus、L’Oréal、Otto Group等企业通过Nemotron系列模型、Omniverse数字孪生、ALCHEMI分子模拟等工具，显著降低推理成本、提升搜索准确率、缩短研发周期，并验证了转化率与销售增长效果。

黑石AI业务主管贾斯·卡伊拉：AI基建债务担忧被夸大

黑石AI业务负责人贾斯·卡伊拉在TechCrunch Disrupt大会上表示，市场对AI基础设施领域巨额债务的恐慌被过度放大；其核心论据是：债务主要由高信用等级客户（如微软、Meta）的长期合同支撑，且底层资产（GPU等）具备强抵押价值，风险结构与2008年银行体系有本质区别。

法官驳回特朗普“环保署可随意撤销数据中心污染诉讼”的荒谬主张

美国联邦法官裁定，特朗普政府无权授意环保署（EPA）单方面撤销针对SpaceXAI在孟菲斯运营未许可燃气轮机所引发的空气污染诉讼；NAACP提起的诉讼将继续推进。

VocabX：通过成本加权词汇专业化将领域专用小语言模型推理成本降低77%

Dharma-AI提出VocabX方法，针对特定任务（如葡萄牙语作文自动评分）重构语言模型词汇表，以生成代价而非词频为优化目标，在不修改模型结构、参数或训练流程的前提下，实测推理成本下降77%，同时评估质量（bench score）从0.703提升至0.810。

TorchNeuron系统级性能分析（第一部分）：基于AWS Trainium芯片的端到端剖析

本文为Hugging Face与Amazon联合发布的技术博客系列首篇，系统介绍如何在AWS Trainium AI加速芯片上使用TorchNeuron进行PyTorch模型推理性能分析，涵盖Neuron后端集成原理、torch.profiler配置方法、NeuronConfig与NeuronProfiler工具使用、Neuron Explorer可视化追踪，并以RMSNorm为例对比三种实现（朴素PyTorch、torch.rms_norm内置融合、torch.compile自动融合）的设备耗时差异。