英伟达支持一家印度初创企业,助力企业以更少的GPU运行AI模型
Simplismart表示,其年化收入增速在六个月内增长了14倍,其中美国市场贡献了超过一半的收入。
检索标题、摘要与正文,把分散的信息连起来。
Simplismart表示,其年化收入增速在六个月内增长了14倍,其中美国市场贡献了超过一半的收入。
10月27日,乐奇Rokid推出AI眼镜Rokid Glasses 2、全彩AI眼镜Rokid Color和交互戒指Rokid Ring
指数落地+ETF授权,港股AI与半导体迎来新的配置工具与资金入口.
arXiv:2610.33275v1 发布类型:新 摘要:计算型笔记本会在整个会话期间独占一块GPU,然而GPU仅在单元格执行时进行计算,其余时间则处于空闲状态。无服务器执行模式可以在各单元格之间释放GPU资源,但在新的工作节点上重建累积的笔记本状态会对每个GPU单元格带来显著的开销。本文提出了一种面向交互式笔记本的无服务器GPU平台——LooseLeaf。LooseLeaf能够推导出每个单元格的状态及其导入闭包,即该单元格所需的最小变量与软件包集合。我们在5,000个真实世界笔记本上的分析表明,这些闭包规模很小,且用户对单元格的编辑操作只需数秒即可完成准备。LooseLeaf会在用户编辑单元格的同时,基于这些闭包为GPU工作节点做好准备。执行结束后,该工作节点…
arXiv:2610.33475v1 发布类型:新 摘要:基础大型语言模型(LLM)在云数据中心的广泛部署,标志着从无状态深度学习向分布式、内存密集型生成式工作负载的根本性范式转变。然而,在严格的服务水平目标(SLO)下为大规模基础模型提供服务,会暴露出关键的物理与系统瓶颈。这些挑战包括持续存在的高带宽内存(HBM)墙、计算密集型预填充与内存带宽受限的解码之间的运行不对称、键值(KV)缓存的爆炸式增长、代价高昂的无服务器冷启动,以及硬件可靠性方面的漏洞。现有的文献综述仍局限于各层次的孤立视角,未能将底层加速器的虚拟化与集群……
arXiv:2610.33501v1 发布类型:新 提要:大型语言模型(LLM)的推理服务依赖于批处理以提升推理吞吐量,但键值(KV)缓存会随序列长度增长,从而限制了GPU上的并发度。通过CPU卸载,可以利用主机内存扩展KV缓存容量,然而现有系统在很大程度上仍受GPU瓶颈制约:只有当GPU调度器能够提供合适的重叠机会时,CPU驻留的请求才能取得进展。因此,主机内存与CPU计算无法作为独立的推理资源发挥作用,导致负载下CPU端进度波动加剧,并使尾部词间延迟(ITL)显著增加。我们提出了DualPace,一种将主机转变为独立调度解码引擎的LLM推理运行时。DualPace在两个引擎之间划分了调度权:GPU引擎
今天,我们来了解一下华擎面向工作站推出的高端Radeon AI推理卡——Creator Radeon AI Pro R9700。这款显卡配备32GB内存,售价1700美元,是为工作站添置本地AI推理能力的高性价比之选。文章《华擎Creator Radeon AI Pro R9700评测:AMD风格的工作站推理》首发于ServeTheHome。
SpaceX在周一提交的一份监管文件中披露,已锁定约400亿美元的融资承诺,用于支付人工智能芯片及相关数据中心设备的费用。SpaceX在一份声明中称,这是有史以来“规模最大的GPU融资承诺”。
AI工厂是迄今为止技术最为复杂的运营环境之一。数十万块GPU、NVIDIA Spectrum-X以太网……
八年前,芯片制造商美满电子科技公司决定在纳米制程领域实现跨越式发展,此后其发展轨迹一路稳步向上。在半导体制造领域,纳米制程代号所指的并非晶体管的确切物理尺寸,而是各代芯片制造技术,即所谓的工艺节点。先进的工艺节点通常能够提升晶体管密度,并带来性能上的改进……文章《美满电子在人工智能需求推动下,早期的芯片制造豪赌终获回报》首发于SiliconANGLE。
在数千块GPU上训练大规模AI模型是一项高风险的运维工作,必须内置监控与自动化机制,以优化集群的韧性……
2026年10月23日,博纳影业出品的《三星堆:未来往事》作为国内首部获公映许可证、全程依托AI参与制作并在商业院线正式公映的长片登陆全国影院。影片全片采用数字角色,无真人演员,制作成本达千万级,但首周末票房仅约118万元,排片与上座率低迷,凸显AI电影在叙事接受度与工业化落地间的现实落差。
推荐理由:该报道基于钛媒体2026年10月26日发布的深度新闻,完整呈现了影片的技术定位(首部AI院线长片)、制作实况(120万张底图、600:1成废比、逐帧手搓)、产业意义(跑通审查与发行全链路)及市场反馈(低票房、票价争议、观众观望),信息要素齐全、来源明确、时效性强,且未超出材料事实边界。
2026年10月26日起,上证指数、上证A股指数、上证流通指数及科创综指正式实施修订后的编制方案,新增单个样本权重15%上限;国务院国资委于10月23日强调扎实推进新一轮国资国企改革任务落地;同日(10月25日),标普道琼斯宣布调整成长/价值股划分标准,新规将于12月21日生效,影响约3750亿美元被动型基金。
推荐理由:三则政策与市场规则变动均具显著时效性与系统性影响:指数权重红线直接关系A股核心基准稳定性;国资委表态体现中央层面对国企改革攻坚的紧迫部署;标普规则重构价值投资逻辑,波及规模达数千亿美元,属全球资本市场重要变量。所有信息均源自钛媒体2026年10月25日发布的权威综合报道,时间节点、主体、措施及影响金额均明确可验。
我们在2026年OCP峰会上深入了解了Aivres NVIDIA Vera、Vera Rubin以及Blackwell Ultra系列平台。文章《Aivres NVIDIA Vera Rubin与HGX B300亮相OCP峰会》首发于ServeTheHome。
2026年9月起,TCL华星、京东方、惠科等面板厂商密集发布涨价函,主因AI大模型发展导致HBM需求激增,挤占成熟制程芯片产能,推高驱动IC、PCB、玻璃基板等关键物料价格;康宁等上游供应商同步提价。尽管成本端压力明确,但下游电视/显示器品牌采购价未普涨,终端用户投诉过热、黑点等品控问题频发,涨价尚未转化为实际成交与体验升级。
推荐理由:材料系统揭示了AI产业对非直接关联硬件行业的跨链传导机制——非因AI拉动面板需求,而是通过晶圆产能再分配引发全链条成本重定价;同时呈现涨价行为与市场真实反馈(价格僵持、出货下滑、用户投诉)之间的显著落差,凸显产业议价权与产品力不匹配的深层矛盾。
美国联邦通信委员会(FCC)于2026年10月22日批准英特尔为期一年的豁免许可,允许其在美国晶圆厂继续使用特定外国制造的自动导引车(AGV),因原禁令措辞模糊可能误伤关键半导体制造设备。
哈萨克斯坦AI生态正从规划阶段转向规模化部署,Firebird公司获美国出口许可,在哈建设AI工厂,首期部署4.5万颗NVIDIA Grace Blackwell GPU;Kazakhtelecom已上线超千颗H200/B300 GPU,并计划2025年新增超2000颗Vera Rubin等GPU;多方协同推进算力供给、开发者接入与本土AI应用落地。
AWS 宣布 SageMaker AI 无服务器模型定制功能新增「训练会话(Training Sessions)」,即日起全面可用。用户可自主编写后训练逻辑(如自定义损失函数、奖励信号、多轮强化学习),而 GPU 分配、分布式执行、容错恢复与检查点存储均由平台自动处理。
Amazon SageMaker发布训练会话(Training Sessions)API,支持用户以纯Python脚本实现SFT、RLHF、GRPO、KTO等自定义大模型训练逻辑,GPU资源调度、容错、分布式执行及检查点管理均由服务托管。
Elastic GPUs, sandbox growth, and the economics of the agent cloud
译文排队中,当前为原文 · en