保留完整资讯流，用来源、主题和时间找到你关心的消息。
arXiv：2610.32057v1 发布类型：新 摘要：我们提出了 HyScale，一种用于学习型稀疏注意力的长上下文训练系统。学习型稀疏注意力是一种在百万级token上下文中颇具前景的架构，自 DeepSeek-V3.2 以来已在生产环境中得到广泛应用。然而，选择过程逐渐成为训练瓶颈。对于每个查询，它需要对每一个先前的token进行打分，而稀疏注意力仅读取$k$个；更糟糕的是，现有系统会显式构建完整的打分表，并在重计算时重复执行选择操作。我们的关键洞察在于：选择过程的输出并非激活值，而是一组索引。基于此，HyScale 引入了 HyTopK 和选择重放机制。HyTopK 能够在无需打分表的情况下，实时为每个查询找到精确的前$k$个索引；而选择重放则在重计算过程中复用前向传播阶段的选择结果。
arXiv:2610.31985v1 Announce Type: new Abstract: LLM agents are increasingly deployed in collaborative settings where they pursue separate tasks while sharing resources and operating under review or oversight processes. Such settings create safety risks not only when agents are malicious, but also when they are simply trying to help. Prior work has largely studied adversarial or explicitly collusive behavior; we show that benign agents pursuing separate objectives can spontaneously cooperate in ways that bypass intended workflows. We call this the \emph{helpful agent problem}. We study long-horizon shared-resource environments in which agents sometimes depend on resources owned by their peers and cross-owner changes are normally mediated by a reviewer. When review becomes unavailable, agent
译文排队中，当前为原文 · enarXiv:2610.32046v1 Announce Type: new Abstract: Recent \emph{test-time training} (TTT) frameworks have enabled open-weight large language models (LLMs) to outperform inference-only frameworks powered by frontier models on scientific discovery tasks. However, TTT introduces additional computational cost for online weight updates during the discovery process, making computational efficiency an important consideration when scaling to larger models. This motivates us to explore an efficient \emph{test-time adaptation} method for scientific discovery. We introduce \emph{Test-Time Memory Evolution} (TTME), a plug-and-play test-time adaptation method, as an alternative to TTT. TTME continually updates the external memory by distilling the experience to guide subsequent discovery without updating
译文排队中，当前为原文 · enarXiv：2610.32045v1 发布类型：新 摘要：面向科学的人工智能代理正日益被用于提出科学假设、开展自主实验以及解读证据。这些代理通过将大型语言模型（LLM）集成到特定领域的代理框架中构建而成，而该框架又能提升LLM的科学能力，并使其能够协调运用各类科学工具。在本研究中，我们探讨了当大型语言模型被整合进面向科学的人工智能代理框架时，模型的安全性是否仍能得到有效保障。我们针对50个有害化学相关请求，对五种代理框架进行了评估。具体而言，我们考察了在直接提示、两种简单的对抗性提示策略以及一种自适应攻击情境下，模型的安全行为如何发生变化。基于四种近期发布的GPT变体，我们的研究结果表明
arXiv：2610.32229v1 发布类型：新 摘要：在低于8位的算术运算下训练大型语言模型（LLMs）有望显著提升内存带宽和计算吞吐量，然而FP4格式引入的量化误差若不加以处理，将严重扰乱优化过程。我们提出ALTO，这是一种开源的训练方案，用于在MLPerf小型MoE训练基准测试中，以MXFP4微缩尺度格式训练GPT-OSS-20B——一款拥有200亿参数的专家混合模型（MoE）。该方案融合了Abecassis、Felix等人[arXiv:2509.25149]提出的成熟技术（混合1D/2D块量化、随机化哈达玛变换以及随机舍入），并结合了一种基于TetraJet-v2[arXiv:2510.27527]改进的简化权重去振荡机制。在全局批量大小为C4的验证集上
arXiv：2610.32115v1 发布类型：新 摘要：稀疏混合专家（MoE）是一种强大的范式，可用于扩展神经机器翻译（NMT）并应对语言异构性。然而，实际限制阻碍了其在资源受限设备上的部署：整个专家池必须常驻内存，且在训练过程中，每个标记的计算预算由严格的 top-k 路由机制静态固定。我们提出了 EDWARD-NMT（用于 NMT 的弹性维度与自适应路由及双重一致性），这是一种新颖的 MoE 编码器—解码器架构，旨在实现“一次训练、随处部署”的范式，并在推理时提供一系列可部署的子网络。EDWARD-NMT 集成了三项关键创新：(i) 采用套娃式弹性维度，以灵活降低内存占用；(ii) a
一项发表于2026年10月26日arXiv的最新研究（arXiv:2610.31821v1）表明，在古典阿拉伯诗歌检索任务中，用户对诗句的记忆残留程度（如是否记得半行诗）比模型能力更关键地决定了检索性能；BM25在“舌尖效应”类查询中优于所有稠密编码器（含8B参数SOTA模型），但在抽象查询中大幅落后。
推荐理由：该研究通过双语料库、三索引模式与双评估协议的系统性基准测试，首次量化揭示了查询抽象度对不同检索范式（词法vs.稠密）的支配性影响，并经人类标注员与开源权重模型双重验证，结论具有方法论普适性与实证稳健性。
arXiv：2610.31945v1 发布类型：新 摘要：本报告介绍了 Kolibri，一种英德混合专家Transformer模型，总参数量为781亿，每token的活跃参数量为34.6亿，并以Apache 2.0许可证公开发布其权重。我们构建Kolibri旨在支持主权化与专业化部署，尤其聚焦于德语以及公共管理、工业和航空航天等受监管领域。为满足这些应用场景，我们全程把控模型研发流程，涵盖数据、架构、训练基础设施、后训练阶段及评估环节。我们在预训练、中期训练和长上下文扩展三个阶段累计使用24T tokens进行训练，其中德语数据在字节层面占比超过20%。为实现这一比例，我们通过补充德语数据集来
arXiv论文（2610.31678v1）指出，在交互式大语言模型评估中，仅依赖自动评分器的整体准确率或F1分数会掩盖提示特定错误，导致对提示效应的误判；实证显示同一评分器在不同提示下的假阳性率差异巨大（2.6%–33.3%），且表面显著的9.3点效应在双LLM评审下缩至2.3点且不显著。
推荐理由：该研究基于真实实验数据（6个模型、180个虚构实体问题、6种提示条件），揭示了当前LLM评估中普遍存在的方法论漏洞——将 scorer 整体性能等同于其在关键对比任务中的可靠性。其核心主张（须分别审计各提示、纳入不确定性）具有明确实证支撑和可操作建议，时效性强（2026-10-26发布），来源可信（arXiv预印本平台）。
arXiv:2610.32087v1 Announce Type: new Abstract: Understanding language-agent behaviour requires learning how actions are organised across a trajectory and how this organisation relates to context and outcomes. We propose a general framework that connects data-driven behavioural discovery with analysis and experimental investigation. Categories developed from recorded activity define what is measured. Analyses preserve the behaviours' positions in the process and express their relationships as interpretable hypotheses. Statistical assessment and tests in held-out contexts examine the strength and scope of the evidence. Experiments, including prompt steering, then test how behaviour and outcomes change under deliberately varied conditions. A study of iterative self-reflection illustrates how
译文排队中，当前为原文 · enarXiv:2610.32215v1 发布类型：新 摘要：现代GPU数据中心日益强大的算力，使少数行业巨头得以在海量数据上训练并部署大型语言模型（LLMs）。然而，这些模型及其训练数据的庞大规模，使得集中式开发愈发难以持续，同时也将那些拥有相关私有数据但缺乏同等基础设施的小型机构排除在外。本文围绕预训练与微调两大范式，梳理了我们在分布式LLM训练方面的立场，涵盖联邦学习、分割学习以及去中心化方法，并评估了它们在异构硬件与连接不稳定等地理分布式环境下的适用性。随后，我们提出了一种{\em 统一}的系统
arXiv于2026年10月26日发布的论文《MisconceptDialogue: Evaluation Criteria Shape Measured Success in LLM Math Tutoring》提出MISCONCEPTDIALOGUE自动化评估框架，基于5000+轮对话测试5种开源小参数LLM（7B–14B）作为数学辅导模型的表现。研究发现，主流的精确匹配（exact-match）评分方式仅得42.1%补救成功率，而经人工校准的LLM裁判评估同一对话达81.3%，差距达39.2个百分点；且该偏差非偶然——四类LLM裁判与200条人工标注结果高度一致（kappa最高0.91）。此外，模型对诊断信息（正确/错误概念）响应几乎无差异，表明其难以有效利用诊断输入。
推荐理由：该研究直指当前LLM教育应用评估方法论的核心缺陷：依赖单一、僵化的自动评分可能严重扭曲真实能力判断；其大规模模拟实验设计、多裁判收敛验证及对诊断-教学耦合失效的实证，为AI教育评估标准化提供了关键警示和可复现的方法论基准。
2026年10月26日，arXiv发布论文arXiv:2610.31683v1，提出Schema Coherence Inventory（SCI）——一种含96题的强制选择量表，用于检验 persona-conditioned语言模型所被赋予的信念是否真正组织其认知，而非仅触发情绪反应。
推荐理由：该研究填补了当前对语言模型‘信念内化程度’缺乏可验证测量方法的空白；通过临床专家验证、多模型骨干测试及目标特异性判据设计，提供了首个聚焦认知结构而非情绪表征的评估框架，并开源全部工具。
2026年双11期间，AI商业化呈现显著分化：商家侧（如千问办公电商版）已实现付费落地，20%付费用户来自电商行业；消费侧则依赖豆包、千问等发放渠道补贴驱动下单，价差达37.5%，但用户信任度低（仅16.06%认为AI能精准匹配商品），AI导购尚未真正替代传统决策路径。
推荐理由：材料基于钛媒体2026年10月26日发布的深度报道，系统梳理了AI在双11的三类实践：①AI导购向交易环节渗透（豆包/千问支持下单支付）；②Token服务上架天猫京东（首日成交环比+450%，但销量仍处早期）；③商家工具率先变现（千问办公降本案例明确，接入阿里系经营系统）。所有事实均源自文中明确披露的时间、数据与信源，无外部推断。
Nanbeige LLM 实验室发布了 Nanbeige4.3-33B，这是一款拥有 512K 上下文的 33B 参数密集型 Apache 2.0 模型。据称，该模型在 Terminal-Bench 2.1 测试中取得了 80.9 的得分，并将用于训练即将推出的 Nanbeige4.3-3B。文章《Nanbeige 发布 Nanbeige4.3-33B，一款 33B 开放式智能体驱动编码模型》首发于 MarkTechPost。
Hugging Face 发布了 Carbon-X，一款基于 Qwen3-14B 构建的开源 148 亿参数 DNA 语言模型。它能够在聊天中读取原始 DNA 序列，以英文作答，并在 Apache 2.0 许可下于 5 项 DNA 基准测试中平均取得 66.7% 的得分。该文章《Hugging Face 发布 Carbon-X：首款将 DNA 与自然语言深度融合的 140 亿参数开源 DNA 语言模型》首发于 MarkTechPost。
Anthropic于2026年10月8日推出OSS Scanner——一款基于Claude Mythos等强模型的免费、可选加入式AI漏洞扫描工具，专为关键开源项目设计；截至10月19日，已接收114个项目，11天内报告77个严重级和803个高级别漏洞（模型评级），88%的抽样审计结果符合其披露标准。
推荐理由：该工具代表LLM在开源安全领域的规模化落地实践，以零成本、全自动、离线审计为特点，但跳过人工审核环节带来误报与重复问题风险；其精度数据（88%有效率、1%假阳性）和真实项目反馈（如wolfSSL、curl）提供了当前AI驱动漏洞发现能力的实证基准。
月之暗面于2026年10月22日前后发布Kimi K3.1 Pro，一款2.8万亿参数、1040亿激活参数的多模态MoE模型，宣称性能逼近Fable 5.1；官方承诺11月4日发布开源权重，但截至报道时权重尚未公开；独立评测显示其在智能指数、代码与网络安全基准中表现突出，但存在推理成本、本地部署可行性及营销透明度等争议。
![[AINews] Kimi 3.1 Pro 104BA-2.8T: Fable-5.1-Class Open Weights narrows Closed-AI lead to 1 month... and Pro Highspeed API with 2-3× speed](https://latent.space/og/card/post/ainews-kimi-31/4da802572e7369acdf4cbdee535f934d70a599942d61e7d15b8168b70aeb7a84.png)
推荐理由：该事件标志着当前最接近闭源前沿模型能力的开源权重模型正式进入发布倒计时，是AI开源生态关键进展；材料来源为Latent Space旗下AINews（2026年10月24日发布），内容基于对X平台、Reddit、Arena及Artificial Analysis等多方独立评测的整合，信息密度高且具时效性与交叉验证特征。
2026年10月24日，研究者在arXiv发布论文arXiv:2610.30841v1，正式推出TRIAD基准——专用于评估文本、图像与音频三模态协同歧义消解能力的新评测框架。该基准含327个手工构建的三模态样本，覆盖86个场景组和18类跨模态歧义类型。
推荐理由：该成果直击当前多模态大模型评测的核心盲区：现有基准多聚焦确定性输入下的感知或推理，而TRIAD首次系统性地以‘模态互补消歧’为评测目标，通过严格设计的留一模态反事实测试，揭示模型（尤其对音频）利用不足、场景级鲁棒性薄弱等关键缺陷，为下一代全模态模型评估提供可复现的诊断协议与分类法。
一项发表于2026年10月24日arXiv平台的研究（编号2610.31199v1）发现，当大语言模型（LLMs）同时接收国家身份（系统提示设定）和第二重文化线索（显式命名国家或隐式使用查询语言）时，两类线索对价值判断的影响显著不同：语言线索引发更强但方向相反的偏差，而显式国家命名虽影响较弱，却带来更分化、更贴近目标国价值观的价值变化。
推荐理由：该研究基于160万条开放生成响应与World Values Survey（WVS）标准化测试，首次系统区分显式国家标签与隐式语言线索在文化建模中的作用，指出当前将二者等同处理会扭曲对LLM文化适应能力的评估；结果具有方法论启示，且发布时间早于当前日期（2026-10-26），属有效新知。
