微调 NVIDIA Nemotron,使其不仅懂本地语言,更懂本地规则
随着人工智能在全球范围内的普及,不同语言和文化背景的人们正在将其应用于日常生活的更多方面。通用语言模型服务于……
检索标题、摘要与正文,把分散的信息连起来。
随着人工智能在全球范围内的普及,不同语言和文化背景的人们正在将其应用于日常生活的更多方面。通用语言模型服务于……
arXiv:2610.33065v1 发布类型:新 摘要:由于头皮记录存在噪声、空间分辨率较低,且在不同试验和受试者之间具有较大差异,脑电图(EEG)的视觉解码仍然十分困难。大多数系统将每次试验与一个密集的图像嵌入对齐,然而该嵌入同时混杂了语义内容以及与具体实例相关的纹理、姿态和背景信息。这种做法往往需要EEG本身并不具备的细节信息,且未能明确说明支持预测的视觉因素。我们提出\textbf{ProtoEEG},一种基于原型的框架,它将EEG与图像的对齐问题重新表述为在共享的可学习视觉码本之上进行软性组合。一个可训练的EEG编码器与一个冻结的视觉教师共同生成针对同一$K=64$个原型的分配分布。它们的加权重构构成了一种结构化的表征
arXiv:2610.32997v1 发布类型:新 摘要:诸如OpenAI的Whisper等自动语音识别(ASR)模型在语音识别质量上已取得显著提升,但微调成本依然高昂,尤其是在拥有大量已转录音频的情况下。这使得许多从业者难以将这些模型适配到新的语言或领域。在本研究中,我们提出了一种基于嵌入的子集选择方法,用于为ASR微调挑选更小规模的训练集。我们利用Whisper的预训练编码器,将每个音频样本映射到一个固定维度的嵌入空间,并采用贪心的k中心算法来选取多样且具代表性的训练数据子集。我们在希伯来语和丹麦语上对该方法进行了评估,结果表明,k中心选择往往能有效
arXiv:2610.33005v1 发布类型:新 摘要:基于能量的模型在特定领域任务中表现出良好的性能,但在建模通用场景时仍面临挑战。为弥合这一差距,我们设计了用于基础语言建模的能量引导模型(ESMs)。ESMs 将能量引导与标记生成整合于同一架构之中,利用能量引导的搜索来优化标记生成。具体而言,ESMs 首先在能量景观上优化潜在状态,随后基于优化后的潜在状态进行标记生成。通过在大规模语料库上开展此类能量引导的预训练,ESMs 学习到一种普遍有效的能量景观,其中有利的标记对应较低的能量值。为探究 ESMs 的规模扩展特性,我们对 ESM 进行了预训练
arXiv:2610.33044v1 发布类型:新 摘要:具身视觉-语言模型必须根据部分且不断变化的观测结果来回答问题。其成功既取决于所选用的推理能力,也取决于该能力所能获取的证据。专家路由器通过调整内部计算来应对,而工具增强型系统则通过获取外部证据来弥补;若单独选择其中一种方式,可能会导致合适的专家缺乏其所需的证据。我们提出了 EKT-Router,这是一种有限框架,能够同时选择合适的推理能力专家、可选的知识以及感知工具。基于结果的特征表示了通用推理、空间推理与时空推理专家之间的优势互补。一个联合效用函数在调用预算范围内对完整的专家—证据路径进行评分。获取完成后,数据包验证器会确认有效数据包
arXiv:2610.32103v1 发布类型:新 摘要:在药物研发中,先导化合物的优化需要同时提升各项性能指标,例如提高渗透性并降低毒性,同时尽量减少骨架结构的改动,以免影响化合物的活性。基于强化学习的后训练方法,如 C-MORAL,通过微调分子语言模型,直接针对目标优化分子先导化合物,但这种方法依赖于昂贵的任务特定数据集,并且在实现多目标优化(MOO)方面面临诸多挑战。我们认为,预训练模型可能已经蕴含了有益的分子修饰信息,而零样本生成难以高效地触及这些信息。鉴于零样本生成的搜索能力有限,我们提出了一种高效的 Metropolis-Hastings 搜索策略,以……
arXiv:2610.33019v1 发布类型:新 摘要:当多模态智能体进行持续交互时,长期记忆发挥着两种既 distinct 又互补的功能:细粒度的证据召回,以及用于全局理解的内化解读。尽管情景记忆与隐式记忆分别通过显式的历史记录和内化的经验来满足这些需求,但由于情景记忆在证据覆盖与整合方面的局限性,以及隐式记忆在事实基础构建上的不足,单一的范式难以兼顾不同任务间多样化的记忆偏好。为弥合这一鸿沟,我们提出了一种双记忆框架,将模型原生的隐式记忆作为直观的先验,同时结合多索引的情景记忆,通过检索驱动的联合对齐实现精确的证据重建。在 i
arXiv:2610.32179v1 发布类型:新 提要:神经架构搜索(NAS)成本高昂,但通过复用先前任务的知识,跨任务迁移能够有效降低成本。然而,现有方法在处理稀疏的搜索历史以及任务特定的迁移失败时面临困难。我们提出了一种风险稳健的策略,该策略通过基于冠军的初始化和联合的成对排序器预训练,将稀疏的源日志与零成本代理相结合。在 TransNAS-Bench-101 上,该方法显著缓解了严重的最差情况下的失败,使微观自动编码任务的最差10%排名从290降至43,宏观房间布局任务的最差10%排名从465降至45。在13个细胞空间目标上,该方法在平均性能和最差情况性能两方面均优于仅使用代理的排序器,并且在平均性能上仍保持竞争力。
arXiv:2610.32431v1 发布类型:新 摘要:一次失败的视觉—语言—动作(VLA)展开并不意味着所有动作都导致了失败。然而,在群体相对策略优化(GRPO)中,展开中的所有动作都会被赋予单一的轨迹级优势。这样一来,那些本可带来帮助的恢复尝试也可能与其试图纠正的错误一同受到惩罚。我们利用成功概率与策略得分的鞅理论,刻画了用于失败反馈的理想停止条件。在这些停止点上,基于保留信息的条件期望下,被移除的梯度贡献的条件期望为零。因此,截断操作既能保持参考GRPO群体梯度估计器的期望值,又能降低其协方差。其中一种停止情形发生在成功条件概率达到……时。
对机器而言,“夜晚”是什么?
arXiv:2610.31726v1 发布类型:新 摘要:有效的人机协作需要能够与不可预测的人类伙伴进行协调的智能体。通过实时人类反馈或大规模行为数据集进行强化学习成本高昂,而纯模拟训练则容易过拟合于人工设定的规范,在与真实人类的零样本协作中往往表现不佳。我们提出了一种针对认知受限伙伴训练协作智能体的框架:这些模拟伙伴的多样性源于基于人类生理学文献的程序化约束,具体包括反应延迟和感知局限,而非依赖奖励塑造或历史训练中的关键节点。在经过改造的月球着陆器环境中,我们报告了初步证据,表明这些伙伴的表现更接近r
一篇于2026年10月26日发布在arXiv(编号2610.31820v1)的AI研究论文指出,针对采用基于价值的强化学习(value-based RL)训练的大语言模型(LLMs),其已有的Critic模块无需额外训练或数据即可作为高精度、高校准性的置信度估计器使用。
推荐理由:该研究揭示了置信度估计与RL中Critic训练在数学本质上的等价性(在正确性结果定义下),并通过跨十余个领域(数学、代码、工具调用、通用推理)的实证验证了复用Critic的有效性与泛化能力;成果对降低LLM可信部署门槛具有直接工程价值。
arXiv:2610.31846v1 发布类型:新 摘要:智能体应当从自身错误中学习,从而使经验带来持续改进。然而,当前的智能体仅能暂时从错误中恢复:上下文中的反思很容易在不同会话间被遗忘,并且会与有限的上下文资源产生竞争;而全参数微调则成本高昂,还可能干扰已有能力。我们提出了一种名为“自我引导”的机制,使智能体能够从错误中学习,兼具临时性上下文重试与策略更新的优势。当智能体执行任务失败时,它会回顾自身的行动轨迹,从中提炼出经验教训,并立即将其转化为一个轻量级的低秩适配器。通过冻结原始权重,自我引导机制有效避免了适配器训练对原有模型的过度覆盖……
Sebastian Raschka于2026年10月24日在Ahead of AI杂志(magazine.sebastianraschka.com)发布一套共八讲、超11小时的Python与PyTorch实操视频课程,系统讲解推理模型的评估、推理时扩展、强化学习(RLVR)与知识蒸馏,基于预训练Qwen3-0.6B模型实现全部方法。
推荐理由:该课程是作者继《从零构建大语言模型》后推出的进阶技术教育内容,聚焦当前主流LLM的核心演进方向——推理能力增强,覆盖从基础环境搭建到GRPO强化学习、自蒸馏等完整技术链,且明确声明所有实现均‘从零手写’、可复现,具备强教学性与工程参考价值。
2026年10月24日,arXiv发布论文arXiv:2610.31125v1,提出Delta N-gram——一种不修改预训练N-gram表T⁰、仅通过前向传播写入稀疏增量补丁Δ的新机制,支持高效、可逆的持续记忆更新。
推荐理由:该工作针对持续学习中模型基础参数扰动大的问题,提出结构轻量(4.1M参数)、计算高效(纯前向)、完全可逆(清空Δ即恢复原始模型)的记忆增强路径,并在Qwen3.8-Flash-Next等模型上验证其更强的文档特异性与抗干扰能力,属前沿可信AI系统研究。
2026年10月24日,arXiv上线论文2610.30344v1,提出AQL-Lite框架,通过质量优先的数据筛选与部分参数持续预训练(CPT),显著提升多语言大模型对现代标准阿拉伯语(MSA)的适应效率。
推荐理由:该研究直面阿拉伯语大模型训练中噪声数据多、方言混杂、持续预训练成本高等核心挑战,提出可复现、轻量、高性价比的技术路径,并在多个权威阿拉伯语基准上验证有效性;所有结论均基于论文明确报告的实验设置与结果,无外部推断。
AWS发布Multi-Turn Reinforcement Learning(MTRL)功能,使用户可在SageMaker AI上基于完整任务轨迹与最终结果反馈训练大模型智能体,无需步骤级标注;以Wordle为示例演示全流程,涵盖AgentCore部署、数据准备、GRPO训练、奖励设计及成本分析。
谷歌研究团队联合临床机构开展前瞻性多中心研究,证实基于低成本便携探头、由非超声专科人员操作的AI驱动“盲扫”超声方案,在芝加哥与内罗毕两地均实现与专家级超声生物测量相当的孕周评估精度(平均绝对误差4.18天 vs. 4.48天),且无需本地数据微调,为资源匮乏地区扩大产前超声覆盖提供可行路径。
谷歌云与英伟达宣布基于Vera Rubin架构的A5X实例将于下月起正式商用,首期覆盖美国,后续扩展至欧洲;该平台整合NVL72 GPU、ConnectX-9 SuperNICs、Virgo网络及第四代液冷技术,专为大规模强化学习、生成式智能体推理等高密度计算场景设计。
NVIDIA推出开源时序预测模型Kumo Forecast(原NV-Tesseract Forecasting),基于MOMENT-1-large Transformer架构,支持直接预测与Domain-Aware Representation and Retrieval(DARR)双路径推理,并内置无需修改模型结构的可解释性框架。