斯坦福大学与加州大学伯克利分校的研究人员推出 TokenGate:基于令牌的注意力机制使长上下文预填充速度提升高达 11.3 倍
斯坦福大学与加州大学伯克利分校研究人员提出TokenGate——一种可即插即用的学习型令牌剪枝模块,适用于现有大语言模型(LLM)。该方法在不损失准确率的前提下,将长上下文预填充的首字生成时间(TTFT)加速1.4至11.3倍,峰值内存降低1.5至3.4倍。相关代码与检查点已开源。
检索标题、摘要与正文,把分散的信息连起来。
斯坦福大学与加州大学伯克利分校研究人员提出TokenGate——一种可即插即用的学习型令牌剪枝模块,适用于现有大语言模型(LLM)。该方法在不损失准确率的前提下,将长上下文预填充的首字生成时间(TTFT)加速1.4至11.3倍,峰值内存降低1.5至3.4倍。相关代码与检查点已开源。
西班牙宠物护理公司 IskayPet 利用 Amazon Bedrock 托管知识库(Managed Knowledge Bases),在无需自建 RAG 基础设施的前提下,建成覆盖西班牙、葡萄牙、法国三国及西、葡、法、英四语的企业级知识助手,支持零售、兽医、入职与采购等业务场景。
微软研究院发布Flint-interactive,一种构建高表达力、语义化交互式数据可视化的专用语言。它通过编译器将用户操作(如点击、刷选)自动映射为语义事件,并以高层算子驱动图表、表格、文本等多元素联动更新,显著降低AI代理生成可靠交互可视化所需的成本与开发复杂度。
IBM Research推出开源的Granite Timeseries Ensemble(v1),集成PatchTST-FM-r1/r2、FlowState与Tiny Time Mixers四类预训练架构,支持零微调下的概率性集成预测;默认采用等权概率池化(Probabilistic Ensemble),亦提供基于四分位距自适应加权(IQR Ensemble);在GIFT-Eval基准(截至2026-10-20快照)上,其点预测误差(MASE=0.683)略优于最佳单模型,整体鲁棒性显著提升。
谷歌云与英伟达宣布基于Vera Rubin架构的A5X实例将于下月起正式商用,首期覆盖美国,后续扩展至欧洲;该平台整合NVL72 GPU、ConnectX-9 SuperNICs、Virgo网络及第四代液冷技术,专为大规模强化学习、生成式智能体推理等高密度计算场景设计。