搜索 AI 资讯

斯坦福大学与加州大学伯克利分校的研究人员推出 TokenGate：基于令牌的注意力机制使长上下文预填充速度提升高达 11.3 倍

斯坦福大学与加州大学伯克利分校研究人员提出TokenGate——一种可即插即用的学习型令牌剪枝模块，适用于现有大语言模型（LLM）。该方法在不损失准确率的前提下，将长上下文预填充的首字生成时间（TTFT）加速1.4至11.3倍，峰值内存降低1.5至3.4倍。相关代码与检查点已开源。