2026年10月26日，arXiv平台发布预印本论文《SPECMEM: Accelerating Agentic Tool Calling via Live Memory Management》（编号2610.31840v1），提出SpecMem——一种面向工具调用智能体（tool-calling agents）的实时记忆管理系统。该系统旨在解决部署中日益突出的延迟瓶颈：传统工具调用依赖自回归解码，开销随调用次数线性增长。
SpecMem核心设计包括三部分：一是将已验证的工具调用结果实时写入有界、按用户隔离的内存存储，并采用LRU策略动态淘汰；二是引入副作用门控（side-effect gate），对可能产生不可逆影响的调用实施延迟执行，仅在验证确认后才触发；三是全程保持记忆库在线更新，区别于现有系统一次性构建后冻结存储的做法。
实验基于三个开源权重模型服务的多会话、多用户查询流进行评估。结果显示，相比静态冻结记忆库基线，SpecMem在平均接受token量上拉开27%差距（各基准测试中提升幅度为+11%至+34%），实测端到端墙钟时间最高加速1.74倍。消融分析表明，性能增益几乎全部源于记忆库的持续在线更新；用户级隔离虽未提升接受率，但有效阻断了跨用户记忆泄漏；而基于声明式副作用而非检索置信度的门控机制，是避免不可逆错误的关键设计。
该工作目前以arXiv预印本形式公开，尚未经过同行评议，其效果验证限于特定开放权重模型与模拟查询流场景，实际生产环境中的鲁棒性与扩展性有待进一步检验。