全部 AI 动态

微调 NVIDIA Nemotron，使其不仅懂本地语言，更懂本地规则

随着人工智能在全球范围内的普及，不同语言和文化背景的人们正在将其应用于日常生活的更多方面。通用语言模型服务于……

ProtoEEG：用于脑电图视觉解码的结构化原型对齐

arXiv:2610.33065v1 发布类型：新 摘要：由于头皮记录存在噪声、空间分辨率较低，且在不同试验和受试者之间具有较大差异，脑电图（EEG）的视觉解码仍然十分困难。大多数系统将每次试验与一个密集的图像嵌入对齐，然而该嵌入同时混杂了语义内容以及与具体实例相关的纹理、姿态和背景信息。这种做法往往需要EEG本身并不具备的细节信息，且未能明确说明支持预测的视觉因素。我们提出\textbf{ProtoEEG}，一种基于原型的框架，它将EEG与图像的对齐问题重新表述为在共享的可学习视觉码本之上进行软性组合。一个可训练的EEG编码器与一个冻结的视觉教师共同生成针对同一$K=64$个原型的分配分布。它们的加权重构构成了一种结构化的表征

明智地低语：用于ASR微调的智能子集选择

arXiv：2610.32997v1 发布类型：新 摘要：诸如OpenAI的Whisper等自动语音识别（ASR）模型在语音识别质量上已取得显著提升，但微调成本依然高昂，尤其是在拥有大量已转录音频的情况下。这使得许多从业者难以将这些模型适配到新的语言或领域。在本研究中，我们提出了一种基于嵌入的子集选择方法，用于为ASR微调挑选更小规模的训练集。我们利用Whisper的预训练编码器，将每个音频样本映射到一个固定维度的嵌入空间，并采用贪心的k中心算法来选取多样且具代表性的训练数据子集。我们在希伯来语和丹麦语上对该方法进行了评估，结果表明，k中心选择往往能有效

OpenESM：能量引导模型具有可扩展性，是基础学习者

arXiv:2610.33005v1 发布类型：新 摘要：基于能量的模型在特定领域任务中表现出良好的性能，但在建模通用场景时仍面临挑战。为弥合这一差距，我们设计了用于基础语言建模的能量引导模型（ESMs）。ESMs 将能量引导与标记生成整合于同一架构之中，利用能量引导的搜索来优化标记生成。具体而言，ESMs 首先在能量景观上优化潜在状态，随后基于优化后的潜在状态进行标记生成。通过在大规模语料库上开展此类能量引导的预训练，ESMs 学习到一种普遍有效的能量景观，其中有利的标记对应较低的能量值。为探究 ESMs 的规模扩展特性，我们对 ESM 进行了预训练

EKT路由器：面向具身视觉-语言模型的专家证据对齐

arXiv:2610.33044v1 发布类型：新 摘要：具身视觉-语言模型必须根据部分且不断变化的观测结果来回答问题。其成功既取决于所选用的推理能力，也取决于该能力所能获取的证据。专家路由器通过调整内部计算来应对，而工具增强型系统则通过获取外部证据来弥补；若单独选择其中一种方式，可能会导致合适的专家缺乏其所需的证据。我们提出了 EKT-Router，这是一种有限框架，能够同时选择合适的推理能力专家、可选的知识以及感知工具。基于结果的特征表示了通用推理、空间推理与时空推理专家之间的优势互补。一个联合效用函数在调用预算范围内对完整的专家—证据路径进行评分。获取完成后，数据包验证器会确认有效数据包

ReMedI：用于可控分子优化的推理阶段精化与自蒸馏

arXiv:2610.32103v1 发布类型：新 摘要：在药物研发中，先导化合物的优化需要同时提升各项性能指标，例如提高渗透性并降低毒性，同时尽量减少骨架结构的改动，以免影响化合物的活性。基于强化学习的后训练方法，如 C-MORAL，通过微调分子语言模型，直接针对目标优化分子先导化合物，但这种方法依赖于昂贵的任务特定数据集，并且在实现多目标优化（MOO）方面面临诸多挑战。我们认为，预训练模型可能已经蕴含了有益的分子修饰信息，而零样本生成难以高效地触及这些信息。鉴于零样本生成的搜索能力有限，我们提出了一种高效的 Metropolis-Hastings 搜索策略，以……

基于证据的直觉：面向多模态智能体的自适应双重记忆

arXiv：2610.33019v1 发布类型：新 摘要：当多模态智能体进行持续交互时，长期记忆发挥着两种既 distinct 又互补的功能：细粒度的证据召回，以及用于全局理解的内化解读。尽管情景记忆与隐式记忆分别通过显式的历史记录和内化的经验来满足这些需求，但由于情景记忆在证据覆盖与整合方面的局限性，以及隐式记忆在事实基础构建上的不足，单一的范式难以兼顾不同任务间多样化的记忆偏好。为弥合这一鸿沟，我们提出了一种双记忆框架，将模型原生的隐式记忆作为直观的先验，同时结合多索引的情景记忆，通过检索驱动的联合对齐实现精确的证据重建。在 i

何时停止惩罚行为？用于VLA强化学习的鞅GRPO

arXiv：2610.32431v1 发布类型：新 摘要：一次失败的视觉—语言—动作（VLA）展开并不意味着所有动作都导致了失败。然而，在群体相对策略优化（GRPO）中，展开中的所有动作都会被赋予单一的轨迹级优势。这样一来，那些本可带来帮助的恢复尝试也可能与其试图纠正的错误一同受到惩罚。我们利用成功概率与策略得分的鞅理论，刻画了用于失败反馈的理想停止条件。在这些停止点上，基于保留信息的条件期望下，被移除的梯度贡献的条件期望为零。因此，截断操作既能保持参考GRPO群体梯度估计器的期望值，又能降低其协方差。其中一种停止情形发生在成功条件概率达到……时。

导入AI 478：对齐数学；ProgramBench；以及Mirendil展示了RSI的含义

对机器而言，“夜晚”是什么？

新研究发现：强化学习中的现有Critic可直接复用为大语言模型置信度估计器

一篇于2026年10月26日发布在arXiv（编号2610.31820v1）的AI研究论文指出，针对采用基于价值的强化学习（value-based RL）训练的大语言模型（LLMs），其已有的Critic模块无需额外训练或数据即可作为高精度、高校准性的置信度估计器使用。

推荐理由：该研究揭示了置信度估计与RL中Critic训练在数学本质上的等价性（在正确性结果定义下），并通过跨十余个领域（数学、代码、工具调用、通用推理）的实证验证了复用Critic的有效性与泛化能力；成果对降低LLM可信部署门槛具有直接工程价值。

Sebastian Raschka发布八视频课程《从零构建推理模型》

Sebastian Raschka于2026年10月24日在Ahead of AI杂志（magazine.sebastianraschka.com）发布一套共八讲、超11小时的Python与PyTorch实操视频课程，系统讲解推理模型的评估、推理时扩展、强化学习（RLVR）与知识蒸馏，基于预训练Qwen3-0.6B模型实现全部方法。

推荐理由：该课程是作者继《从零构建大语言模型》后推出的进阶技术教育内容，聚焦当前主流LLM的核心演进方向——推理能力增强，覆盖从基础环境搭建到GRPO强化学习、自蒸馏等完整技术链，且明确声明所有实现均‘从零手写’、可复现，具备强教学性与工程参考价值。

研究提出自评估强化学习框架SARL，提升检索增强大模型的搜索状态感知能力

2026年10月24日，arXiv发布论文arXiv:2610.30435v1，提出Self-Assessment Reinforcement Learning（SARL）框架，旨在解决现有检索增强大语言模型中搜索代理缺乏搜索状态感知能力的问题。

推荐理由：该研究针对检索增强型大语言模型在复杂任务中因无法识别已获/缺失信息而导致幻觉推理和过早终止搜索的关键缺陷，提出无需测试时额外评估的端到端强化学习方案，并在多跳推理与深度研究基准上取得显著性能提升。

发布尼泊尔语-英语混合语音识别新基准与合成到真实两阶段适配框架

研究者于2026年10月24日在arXiv发布论文（编号2610.30860v1），提出首个面向自发播客场景的尼泊尔语-英语代码切换ASR基准，含13,044条真实语句（15.45小时），并设计合成到真实的两阶段适配方法：先以0.95小时多说话人TTS合成语音监督微调，再引入带脚本奖励的组相对策略优化（GRPO）。

推荐理由：该工作直面低资源语言代码切换ASR中脚本混淆与切换点错误率高的核心难题，通过严格审计数据杜绝机器翻译泄露和声学循环，并公开全部验证文本、时间戳、剧集元数据及重建脚本；实验结果具统计显著性（p≤0.001），且在单语基准上验证了泛化稳定性。

研究者重构西西里语神经机器翻译系统，提升低资源语言翻译质量

一篇于2026年10月24日发布在arXiv（编号2610.30374v1）的技术论文报告了对西西里语小规模神经机器翻译（NMT）系统的重构工作：基于双语期刊《Arba Sicula》PDF提取高质量平行语料，改进句对齐、分词与词干敏感子词切分，并将原Perl依赖流程迁移至无Perl实现；实验对比从头训练的小型Transformer与微调预训练NLLB模型，证实后者显著更优，尤其在译入西西里语方向。

推荐理由：该论文提供了针对濒危/低资源语言西西里语的可复现、工程化增强的NMT实践路径，涵盖语料构建、模型适配与训练策略优化等关键环节，且所有评估均基于冻结的《Arba Sicula》测试集，方法透明、限制明确，具有技术参考价值。

研究提出Delta N-gram：面向语言模型原生N元语法表的前向-only持续写入方法

2026年10月24日，arXiv发布论文arXiv:2610.31125v1，提出Delta N-gram——一种不修改预训练N-gram表T⁰、仅通过前向传播写入稀疏增量补丁Δ的新机制，支持高效、可逆的持续记忆更新。

推荐理由：该工作针对持续学习中模型基础参数扰动大的问题，提出结构轻量（4.1M参数）、计算高效（纯前向）、完全可逆（清空Δ即恢复原始模型）的记忆增强路径，并在Qwen3.8-Flash-Next等模型上验证其更强的文档特异性与抗干扰能力，属前沿可信AI系统研究。

AQL-Lite发布：面向现代标准阿拉伯语的高效大模型持续预训练框架

2026年10月24日，arXiv上线论文2610.30344v1，提出AQL-Lite框架，通过质量优先的数据筛选与部分参数持续预训练（CPT），显著提升多语言大模型对现代标准阿拉伯语（MSA）的适应效率。

推荐理由：该研究直面阿拉伯语大模型训练中噪声数据多、方言混杂、持续预训练成本高等核心挑战，提出可复现、轻量、高性价比的技术路径，并在多个权威阿拉伯语基准上验证有效性；所有结论均基于论文明确报告的实验设置与结果，无外部推断。

自然语言自动编码器可有效 verbalize 大模型激活差异，支持模型差分与可解释性研究

一项发表于2026年10月24日arXiv的论文（arXiv:2610.30934v1）系统评估了自然语言自动编码器（NLAs）在激活空间差异表征上的泛化能力，实验证明其在组合性、微调模型适配、微调目标恢复及模型差分专用化四方面表现稳健。

推荐理由：该研究基于四项可复现实验设计，覆盖四个来自三个家族的大语言模型，在激活 verbalization 这一新兴可解释性方向上提供了迄今最系统的泛化性证据；所有结论均严格限定于论文报告的实验设置与观测结果，未外推至未测试模型规模或任务。

研究提出新评估方法与模型以应对政治争议话语中未明示论证（enthymeme）识别的标注分歧问题

该论文基于关于疫苗接种和移民议题的推文数据（每条由五名标注者独立标注），发现现有微调模型在enthymeme检测任务中F1分数始终停滞在0.67左右；为此，作者提出应放弃单一标签评估范式，转而采用能刻画标注者意见分布的新指标，并设计可直接预测该分布的模型，在不降低F1的前提下更好捕捉人类判断分歧。

推荐理由：论文直面NLP中长期被忽视的‘标注者分歧即本质特征’这一现实——尤其在政治敏感语境下，enthymeme的识别高度依赖主观推理。其方法论转向（从点预测到分布预测）和对话语结构局限性的实证揭示，对内容审核系统的设计具有明确警示意义：依赖多数票训练的模型可能系统性忽略需深度语境推断的隐性论证。

Amazon SageMaker AI推出多轮强化学习（MTRL）框架，支持端到端训练智能体完成多步任务

AWS发布Multi-Turn Reinforcement Learning（MTRL）功能，使用户可在SageMaker AI上基于完整任务轨迹与最终结果反馈训练大模型智能体，无需步骤级标注；以Wordle为示例演示全流程，涵盖AgentCore部署、数据准备、GRPO训练、奖励设计及成本分析。

IBM发布Granite时序集成预测模型：四模型零微调组合，提供稳健默认预测方案

IBM Research推出开源的Granite Timeseries Ensemble（v1），集成PatchTST-FM-r1/r2、FlowState与Tiny Time Mixers四类预训练架构，支持零微调下的概率性集成预测；默认采用等权概率池化（Probabilistic Ensemble），亦提供基于四分位距自适应加权（IQR Ensemble）；在GIFT-Eval基准（截至2026-10-20快照）上，其点预测误差（MASE=0.683）略优于最佳单模型，整体鲁棒性显著提升。