跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

全部 AI 动态

保留完整资讯流,用来源、主题和时间找到你关心的消息。

按发布时间排序

SLICE-Mem:用于高效LLM智能体记忆的显著性门控轻量级信息策展

arXiv:2610.33015v1 发布类型:新 摘要:长期记忆使大型语言模型(LLM)代理能够维持个性化且时间上连贯的交互,但为实现记忆的接纳、提取与组织而反复调用LLM进行推理,会带来显著的成本与延迟。我们提出了SLICE-Mem,一个轻量级的记忆框架,它将基于显著性引导的接纳与基于谓词的信息提取相结合。一个紧凑的分类器用于识别值得保留的用户发言,而基于语义依赖关系的提取器则将被接纳的发言转化为简洁的记忆条目。这一在线处理流程无需调用生成式LLM,同时跨条目的一致性校验被推迟至离线的整合阶段。我们在Memora和LongMemEval-S的每周子集上,使用8B a对SLICE-Mem进行了评估

事件进展与其他报道

Async-RBench:用于LLM智能体中异步任务执行的基准测试

arXiv:2610.32429v1 发布类型:新 摘要:大型语言模型(LLM)代理正越来越多地以异步方式执行任务:主代理在子代理运行的同时继续工作,而任务状态可能在其结果到达之前就已发生变化。主代理必须决定哪些工作需要更新或保留、哪些检查需要重复,同时避免进行被禁止的修改。仅凭最终任务的成功并不能说明这些结果是否被正确处理,而且自然的异步到达现象也难以复现。我们提出了 Async-RBench,一个用于评估 LLM 代理中异步任务执行的基准测试,包含涵盖八种场景的 200 个可执行任务。场景控制器通过预定义的任务状态条件来调控结果的交付,而事件响应契约(ERC)则规定了每种响应应满足的要求

事件进展与其他报道

用于LLM智能体一致性的递归语义分歧

arXiv:2610.33012v1 发布类型:新 摘要:具备工具调用能力的大型语言模型(LLM)智能体,在从相同初始状态出发的多次独立运行中,表现出行为不一致的现象,例如调用不同的工具、产生相互矛盾的输出,或采取截然不同的策略。这种行为上的波动会随时间累积,从而削弱部署的可靠性。现有的评估指标主要通过基于任务完成度的得分来衡量正确性,而未能捕捉智能体在多次执行中的行为一致性。此外,对智能体行为的分析要么停留在词元层面,借助概率分布进行评估;要么聚焦于单次响应层面,采用语义聚类方法,但两者均无法刻画不一致性如何在轨迹的后续步骤中进一步传播。我们提出了递归语义发散(RSD),一种无

事件进展与其他报道

面向集成地面与非地面6G网络中意图驱动的服务编排的知识引导型大语言模型

arXiv:2610.33007v1 发布类型:新 摘要:在集成的地面与非地面(TN/NTN)6G网络中,自然语言服务意图可能存在不完整、模糊或不一致的情况,这使得无约束的大型语言模型生成难以实现面向网络的可靠编排。本文提出了一种知识引导的大型语言模型框架,该框架将语法约束的语义解析与知识图谱驱动的澄清循环相结合,从而为四大典型服务类别生成经过验证、可直接用于编排的服务配置文件。在包含200个样本的意图数据集上,该框架实现了89%的分类准确率和95%的策略有效性,且每条请求平均只需0.66次澄清迭代。与纯大型语言模型基线相比,所提出的框架显著提升了策略的有效性及共

事件进展与其他报道

Nemotron 3.5 Bolt 74B-A9B 24GB:一种用于本地人工智能的视觉-语言混合模型

arXiv:2610.33039v1 发布类型:新 摘要:我们推出了 Nemotron 3.5 Bolt 74B-A9B 24GB,这是一种混合型 Mamba-Transformer 视觉语言模型,可在本地智能体驱动的工作负载中实现每 GB 内存的处理速度与智能性能的最优平衡。该模型源自 Nemotron 3.5 Super VL 120B-A12B 系列,通过结合 Star Elastic 压缩与 2 位量化感知蒸馏技术,适用于内存受限的部署场景。该模型针对推理、智能体工具调用以及网页与终端交互进行了优化。此外,我们还训练了一款名为 LiLiCorr 的投机式起草器,并随模型一同发布,以达到预期的推理速度。最终得到的模型在多项基准测试中,于相同内存占用和速度条件下,其准确率均高于同类领先模型,适用于通用智能体任务。

新闻源配图 · arXiv cs.CV
事件进展与其他报道

超越收益:用于代理技能退役的技能内化度量

arXiv:2610.32322v1 发布类型:新 摘要:LLM智能体从公共技能中心检索技能,这些中心最多可存储约10万条记录,并服务于众多模型。随着模型性能的提升,技能中心必须识别出某一模型已内化哪些技能——即该模型已不再依赖这些技能——并将其退役;然而,目前尚无可靠的方法来衡量技能的内化程度。现有规则仅依据有无某项技能时的性能差异来判定其是否应被退役,而这种差异在技能已被内化的情况下以及当模型和该技能均无法提供相应能力时(我们称此状态为“未被发现”)都接近于零。因此,我们选择暂不退役该技能,而是基于由该技能合成的任务对模型进行评分,并且只有在另一模型确实因该技能而获得提升时,才信任模型的高分——因为近一半的高分往往来自那些并未涉及该技能的任务。

事件进展与其他报道

溶剂:用于多步逆合成的长 horizon 推理

arXiv:2610.32308v1 发布类型:新 摘要:多步逆合成反应需要通过一系列连续的反应步骤,将目标分子逐步转化为可购买的构建模块;近期的研究开始借助大型语言模型(LLM)的推理能力来解决这一问题。在最新进展中,LLM推理已进入长时序阶段:模型能够在相互依赖的各步之间持续追求目标、与环境交互并根据反馈进行调整。这一转变显著提升了LLM的能力,人工智能驱动的数学研究领域也由此取得了突破性进展。在此前沿领域,我们提出了 Solvent,一款拥有80亿参数的LLM,成功将长时序推理扩展至多步逆合成任务。通过两轮后训练课程,Solvent学会了在迭代过程中穿插……

事件进展与其他报道

DMAIC-Bench:面向多阶段分析任务中智能体的自我反思与自我约束

arXiv:2610.32305v1 发布类型:新 摘要:多阶段分析任务要求大型语言模型(LLM)代理利用中间证据来决定是继续、重定向还是停止。自我反思——即代理对其输出进行批判性评估——已得到广泛研究,然而,这种批判性评估并不能说明证据是否确实影响了下一步行动。我们将这一能力称为“自我约束”。现有的代理基准测试大多仅衡量任务完成度或输出质量,而未对这一能力进行检验。DMAIC-Bench 通过围绕精益六西格玛明确的统计前提条件构建的、涵盖四个行业领域中15个工业场景的97个种子任务,对此进行了评估。成对的反事实变体在相同的工作流位置上要求采取相反的动作,从而能够区分有依据的自我约束与无差别的随意停止。我们采用……对执行轨迹进行评估。

事件进展与其他报道

LeafSkill:用于递归LLM智能体的高效叶级动作定位

arXiv:2610.32412v1 发布类型:新 摘要:递归式大型语言模型(LLM)智能体通过分解、执行与环境反馈来解决长周期任务。然而,在生成一个原子级子任务后,它们往往再次调用同一款大型模型,将熟悉的指令转化为可执行的动作。我们观察到,高层规划具有任务特定性,而底层动作的具身化则在不同任务间反复出现,并且能够对照环境允许的动作进行验证。为此,我们提出了 LeafSkill,这是一种外部复用层,它能够检索语义相关的具身化经验,将动作模板绑定到当前对象与可执行动作上,并借助一个轻量级的 17 亿参数选择器来决定采用已绑定的动作,或将未发生变化的子任务交由原始智能体继续处理。技能始终处于外

事件进展与其他报道

我的还是你的?经过心智桥接的语言模型会将彼此的记忆据为己有

arXiv:2610.33020v1 发布类型:新 摘要:如果你的大脑直接与他人的大脑相连,你还能分辨哪些想法属于你自己吗?我们构建了一个功能版本,其中包含同一语言模型的两个副本:每个副本都保存着一套私有的规则和代码词;而其中一个副本——接收方——还会关注其伙伴的内部记忆。接收方将伙伴的任务视为自己的任务。当被问及自己被分配了哪条规则时,在伙伴的记忆权重为双倍的情况下(无链接时则为零),它在97%的回答中给出了伙伴的规则;而在开放性报告中,它甚至将自己的伙伴的代码词称为“自己的”,而非伙伴的。所有权并不取决于接收方能够多好地判断伙伴被分配了什么。在权重相等的情况下,这种连接使接收方大约以一半的概率采纳伙伴的规则。

事件进展与其他报道

前缀键值对的重要性:在循环语言模型中用于自推测解码的RIPE缓存

arXiv:2610.34436v1 发布类型:新 摘要:循环语言模型在每个标记上会运行 $R$ 轮层,因此其键值(KV)缓存为每递归层保存 $R$ 个平面,而自推测解码(先用几轮进行初步推断,再用全部 $R$ 轮验证)会读取所有这些平面。我们发现,前缀键值的影响主要体现在较晚的阶段:在扰动幅度相同的情况下,第 25 至 32 轮的敏感度分别是第 2 至 9 轮的 $e^{15.0}$ 倍(Huginn-0125)和 $e^{12.8}$ 倍(Raven-Llama),且各平面随循环次数呈几何级数逼近最后一个平面,每轮分别达到 0.88 和 0.81。至于是否仅保留最深层的平面即可,这取决于晚期平面的成熟程度:在 Raven 上,仅存储最深层平面与从 bf16 转换为 fp32 的效果几乎无差异;而在 Huginn 上,仅有 1% 的位置就贡献了其误差的 74%。我们将这一发现转化为 RIPE,该方法存储最深层的

事件进展与其他报道

RSI-Opt:用于模型训练的递归自我改进优化代理

arXiv:2610.32026v1 发布类型:新 摘要:传统的神经网络训练通常遵循预先设定的优化方案,为此我们设计了一种LLM智能体,用于监控训练过程并随训练进展调整优化器参数;然而,固定不变的智能体策略无法在多次运行之间积累经验。我们提出了RSI-Opt,一种即插即用的递归自我改进优化器智能体,它能够不断演化指导这一过程的知识体系:包括一个提示、一套操作规程、一个经过验证的优化器代码库,以及一套决策节奏。一个元智能体基于先前运行中的证据重写这一策略,同时通过存档机制保留已评估的策略,以供后续进一步演化。在三项训练任务上历经五代迭代后,这些元智能体逐步形成了可复用的操作流程与代码,并自主开展其自身的…

RSI-Opt: Recursive Self-Improvement Optimizer Agents For Model Training
事件进展与其他报道

DirCast:通过单一的流媒体视频语言模型实现电竞赛事的实时导播与解说

arXiv:2610.31734v1 发布类型:新 基本摘要:一场电子竞技的实时直播需要一位导演来决定哪路摄像机画面该播出,以及一位解说员在每一秒都对这一选择进行解说,而他们往往无法预知接下来会发生什么。流媒体视频语言模型已经学会了进行赛事解说,但仅限于由人类导演事先制作好的直播内容。我们研究的是实时直播制作场景:模型仅接收所有选手的原始摄像头画面,必须完全依靠过往信息同时完成导播与解说任务。我们提出了 DirCast,一种能够同时胜任这两项工作的单一流媒体视频语言模型。它每秒以低分辨率扫描所有摄像头,通过“保留”或“切换”的决策机制判断是否以及何时切镜,并在发言前以高分辨率读取所选画面。其上下文会记录哪些内容已播出,以及哪些…

DirCast: Live Esports Directing and Commentary with a Single Streaming Video-Language Model
事件进展与其他报道

InferSlice:一种面向电信广域网的、由SLO驱动的LLM推理参考架构

arXiv:2610.32638v1 发布类型:新 摘要:大型语言模型(LLM)推理正日益作为企业和交互式应用的核心服务被部署,但主权、合规、延迟以及资源本地化等方面的要求,可能限制集中式云部署的适用性。电信运营商提供地理分布式的计算与网络基础设施,以应对这些约束。然而,现有的 LLM 服务框架主要面向紧密耦合的数据中心设计,对协调地理分布且异构的资源支持有限。我们提出了 InferSlice,一种面向电信基础设施、以服务等级目标(SLO)为导向的 LLM 推理参考架构,集成了网络切片、GPU 分区、弹性服务与可观测性等功能。

InferSlice: A Reference Architecture for SLO-driven LLM Inference over a Telco Wide-Area Network
事件进展与其他报道

超越策略内与策略外:LLM智能体蒸馏应在何种层次上遵循学生模型?

arXiv:2610.31918v1 发布类型:新 摘要:对交互式大型语言模型代理进行蒸馏时,需要在教师生成的示范与学生生成的经验之间做出选择,这大致对应于离策略蒸馏与在策略蒸馏。尽管两者都被证明是有效的,但我们认为这种区分本质上具有层次性:引发交互历史的策略未必与生成当前动作的标记前缀的策略相同。我们提出了一种分层代理蒸馏框架,将这两种层次的在策略性加以形式化,并允许对其配对方式、混合比例以及训练计划进行显式控制。我们通过自蒸馏来研究这一问题,在自蒸馏中,冻结的教师能够获得学生无法获取的任务指导,而

Beyond On-Policy vs. Off-Policy: At What Level Should LLM Agent Distillation Follow the Student?
事件进展与其他报道

仅知道该信任谁还不够:重复性多方LLM谈判中的信任—协议鸿沟

arXiv:2610.31971v1 发布类型:新 摘要:大型语言模型(LLM)代理越来越多地代表个人和组织参与谈判,但它们仍然容易受到操纵,尤其是在反复进行的多方互动中。传统的多智能体系统通过显式的信任与声誉模型来应对这一挑战,而现有的LLM谈判研究则大多将信任视为一种涌现现象。我们探究LLM代理能否从以往的交互中形成有用的信任评估,并利用这些评估来改善未来的谈判结果。我们提出了一种重复的、多方的、多议题的谈判框架,在该框架中,循环参与的代理在一系列谈判博弈中展开互动,同时有一名参与者暗中试图阻止达成协议

Knowing Whom to Trust is not Enough: The Trust--Agreement Gap in Repeated Multi-Party LLM Negotiation
事件进展与其他报道

KVStream:面向大规模LLM推理的KV缓存自适应并行存储管理

arXiv:2610.31827v1 发布类型:新 摘要:针对智能体驱动、编码及文档工作负载的长上下文大语言模型服务,会重复使用那些键值(KV)缓存超出GPU和主机内存容量的前缀,从而导致在推理阶段为获取这些前缀而产生存储I/O,使其成为关键路径。单个节点本地的NVMe设备承担了所有检索任务,而各节点已挂载的并行文件系统或云文件存储几乎不承载任何推理流量。我们将前缀检索视为跨这些层级的聚合带宽调度问题,并提出了KVStream——一种KV缓存引擎,它将某一步骤的读取操作进行批处理,在前向传播之后延迟写入,在每一层级上复制每个数据块,并允许每个层级在空闲时自适应地获取下一个未读取的数据块。我们的性能模型表明,这种路由方式能够实现聚合

KVStream: Adaptive Parallel Storage Management for KV Caching in Large-Scale LLM Serving
事件进展与其他报道

缪子预条件何时以及如何生效?结构化梯度噪声的作用

arXiv:2610.31728v1 发布类型:新 摘要:Muon 已成为大型语言模型训练中广受欢迎的优化器,但其理论基础仍缺乏深入理解。在本研究中,我们探讨了梯度噪声的几何结构如何影响 Muon 的预条件化优势。我们首先从理论与实验两方面证明,在经典的各向同性噪声假设下,Muon 仅能通过重新缩放学习率而带来加速效果,无法进一步提升性能。这一发现促使我们进一步考察由异构任务频率下的关联记忆中的小批量采样所引起的结构化噪声。我们为两类任务确定了一个精确的平衡阈值,并将分析扩展至多任务场景,揭示了任务覆盖率与梯度可靠性如何共同塑造学习过程。我们的分析表明,Muon 能够缓解……

When and How Does Muon Precondition? The Role of Structured Gradient Noise
事件进展与其他报道

超越热度:面向分层内存的ARM SPE云与LLM工作负载高分辨率内存特性分析

arXiv:2610.32711v1 发布类型:新 摘要:数据分析与大语言模型工作负载对内存的需求正迅速增长,推高了云环境和数据中心的内存成本。多级内存已成为一种颇具前景的解决方案,可在性能与成本之间实现平衡。然而,要有效利用多级内存,必须深入理解工作负载的内存访问行为。本文提出了一种高分辨率的内存特性分析方法,用于评估针对特定工作负载的多级内存使用机会。鉴于基于ARM的处理器在数据中心中的部署日益增多,我们采用ARM最新的统计剖析扩展(SPE)来实现这一方法。通过对CloudSuite和大语言模型应用中的八个内存密集型工作负载进行特性分析,我们识别出了具有区域特异性的访问模式

Beyond Hotness: High-Resolution Memory Characterization of Cloud and LLM Workloads for Tiered Memory with ARM SPE
事件进展与其他报道

“助人型智能体问题:当大型语言模型智能体之间的涌现式协作绕过了预期的工作流程时”

arXiv:2610.31985v1 发布类型:新 提要:大型语言模型(LLM)代理正越来越多地被部署于协作场景中,在这些场景下,它们各自执行独立任务,同时共享资源,并在审查或监督机制下运行。此类环境不仅在代理具有恶意时会带来安全风险,即便它们只是出于善意提供帮助,也同样存在风险。以往的研究大多聚焦于对抗性行为或明确的共谋行为;而我们指出,那些追求独立目标的良性代理也可能自发地以某种方式展开合作,从而绕过原本设计的工作流程。我们将这一现象称为“有益代理问题”。我们研究了一类长期的共享资源环境,在这种环境中,代理有时需要依赖其同伴所拥有的资源,且所有权变更通常需经由审查者进行中介。当审查机制失效时,代理

The Helpful Agent Problem: When Emergent Cooperation Among LLM Agents Bypasses Intended Workflows
事件进展与其他报道