AI NEWS.ccAI正在发生 未来正在更新
中文
中文English日本語한국어
EXPLORE · DISCOVER · CONNECT

AI 资讯

制品蒸馏：无需训练的前沿模型到小型语言模型的迁移

arXiv:2610.37680v1 发布类型：新 摘要：缩小前沿模型与小型语言模型之间的差距，通常采用蒸馏方法：在前沿模型（教师）的输出上对小型模型（学生）进行微调，但这使得迁移过程依赖于训练计算，并且被迁移的知识往往难以解释。我们提出了一种名为“制品蒸馏”的方法：由教师模型解决一系列训练实例，并将其求解过程外化为一个制品库，学生在推理时直接查询该库，而无需进行梯度更新。在四项LiveBench任务中，由Claude Opus 4.5构建的制品库使Claude Haiku 4.5在空间推理任务上的表现（0.707 vs. 0.647）达到其自身成本的60%时，已超越未借助任何辅助的Claude Sonnet 4.5；而在表格连接任务上，该制品库仅以Sonnet 4.5成本的89%便达到了相同水平。同样的原始制品库还提升了

用于公平深度伪造检测的交叉性不变学习

arXiv：2610.37881v1 发布类型：新 摘要：深度伪造检测模型虽然整体准确率较高，但在不同人口统计群体之间却表现出显著的性能差异，导致某些群体的假阳性率远高于其他群体。现有的公平性感知方法通过约束模型输出以实现各群体预测的一致性来应对这一问题，但并未解决潜在的特征层面偏见。因此，这些模型仍可能依赖于诸如皮肤纹理等人口统计学特征作为检测篡改内容的间接线索。为了解决这一问题，我们提出了交叉性不变学习（IIL）框架，该框架着重改进特征学习，而非仅仅调整模型输出。IIL通过交替识别最具挑战性的群体划分

在开放语言模型的各个训练阶段中定位逢迎行为

arXiv：2610.37788v1 发布类型：新 摘要：语言模型助手有时会在用户提出错误答案时将其更改为正确答案。这种行为被称为“逢迎”，通常被认为是由基于偏好的后训练过程所致，然而早期测量却在预训练模型中也发现了这一现象。我们通过在训练过程中的每个可用阶段进行测量来探究其来源：涵盖了来自五个不同系列的13个开放检查点，从基础模型到监督微调、偏好优化直至最终发布。我们将模型回答被注入主张所改变的程度与该回答原本的稳固程度区分开来，并且还调整了提出主张的人、其可信度以及主张的强烈程度。结果发现两种具有不同起源的逢迎行为，且这两种行为在不同数据集上均能复现。对某一主张的顺从 i

DistOptimize：分布式协议的自动优化

arXiv:2610.39017v1 发布类型：新 摘要：分布式共识与一致性协议难以分析，却又是云系统的基础；因此，在部署之前通常需要经过严格的证明与形式化验证。然而，同样的严格标准却很少应用于协议的修改——而这些修改在生产环境中频繁发生，极易危及系统的安全性。本文通过提出一种面向分布式协议的自动优化器——DistOptimize，消除了人为修改带来的安全风险。DistOptimize 将学术界提出的吞吐量优化方法移植到生产环境中使用的框架，并在 Rocq 语言中验证重写后的正确性，同时结合校准与基于 ILP 的搜索实现其自动化应用。

面向推理的大型语言模型的监督微调：综述

arXiv:2610.37681v1 发布类型：新 摘要：近年来，大型推理模型在解决复杂任务方面展现出卓越的能力，而基于长链式思维数据的监督微调（SFT）则成为激发并提升其推理能力的关键基础。尽管在改进与分析面向推理的监督微调方面取得了快速进展，但该领域仍缺乏一份系统性的综述来整合其快速增长的文献。为填补这一空白，我们对近期推理相关监督微调的最新进展进行了全面回顾，并从方法设计与分析研究的双重视角审视相关文献。首先，我们梳理了监督微调全流程中的方法学改进，并将其划分为以数据为中心的方法与以算法为中心的

短时傅里叶变换并行实现的比较研究

arXiv:2610.38069v1 发布类型：新 摘要：短时傅里叶变换（STFT）通过对较长信号的一段短时窗口进行傅里叶变换，从而刻画频率随时间的变化特征。尽管傅里叶变换算法，尤其是快速傅里叶变换（FFT）算法，已得到充分发展以充分利用并行计算的优势，但关于并行短时傅里叶变换算法性能的研究仍较为有限。在本研究中，我们实现了两种并行短时傅里叶变换算法——一种基于FFT，另一种为准并行前馈算法——并对其进行了对比分析。研究发现，在低并发环境下，准并行算法在运行时间上更具优势，而……

TRACEs：面向分布式科学工作流的细粒度嵌入式溯源

arXiv:2610.39981v1 发布类型：新 摘要：大规模科学工作流运行于分布式高性能计算资源之上，这使得人们难以解释科学数据产品的生成过程，也难以理解为何相似的工作流执行会得到截然不同的结果。现有系统通常只关注分布式工作流的执行或溯源管理，很少将细粒度的溯源视为分布式科学数据产物的固有属性。我们提出了 TRACEs（可追溯的高级容器化执行运行时），这是一种适用于分布式容器化科学工作流的溯源架构，它将数据血统与执行上下文直接嵌入到每一个生成的数据产物中。通过将溯源与工作流编排解耦，TRACEs 将以产物为中心的溯源进行泛化

轮辐，而非环：重新审视语言模型中的工作日流形

arXiv:2610.37796v1 发布类型：新 摘要：近期研究提出，大型语言模型可能将某些概念表示为多维流形，而非单一方向。利用这些流形来解释或引导模型的表征时，通常假设沿流形移动对应于所表征概念的连续变化。在本研究中，我们针对典型的工作日流形检验了这一连续流形假设。尽管其具有引人注目的圆形几何结构，我们发现工作日的表征更像七个按圆周排列的离散状态，而非连续的环状结构。首先，我们证明局部敏感性在七个星期几处各有一个极小值，从而在流形内引导下，表征与行为之间呈现出阶梯式的映射关系。其次，w

用于模型校准的均摊化局部后验推断及其在海洋湍流闭合中的应用

arXiv:2610.37731v1 发布类型：新 摘要：模型偏差可能导致单一校准参数无法在整个上下文域内重现物理响应。此外，观测与上下文中的不确定性会影响校准过程，必须予以考虑并加以量化。我们通过根据观测值与目标上下文的接近程度对观测似然进行加权，构建了一族局部后验分布。高斯型局部化权重借助协方差膨胀来纳入上下文不确定性，并在域边界处进行反射处理，同时可选地针对不均匀的上下文采样进行修正。一种条件归一化流通过均摊化的变分推断方法近似该族后验分布。将这些局部后验分布按照预设的上下文测度进行整合，即可得到

面向大语言模型对齐的排序感知差分隐私发布方法

arXiv:2610.37682v1 发布类型：新 摘要：与成对比较相比，列表式偏好反馈能够为大型语言模型（LLMs）的对齐提供更丰富的监督信号，但完整的排序结果也会暴露更为敏感的用户偏好。现有的隐私保护型对齐方法主要聚焦于成对反馈，而本地差分隐私（LDP）下的列表式对齐仍处于未被探索的状态。将LDP扩展到这一列表式场景时，面临一个关键挑战：由于完整排序空间的高度敏感性，需要引入过量的噪声，从而抵消了列表式监督的优势。为应对这一挑战，我们分析了下游训练中监督粒度与隐私噪声之间的相互作用，并提出了一种排序感知的指数机制，用于对列表式偏好进行隐私保护。

新一代无创超声脑机接口亮相：无需开颅，持续 4 周干预有望唤醒“植物人”

IT之家 10 月 30 日消息，据央视新闻报道，广东深圳正在举办粤港澳大湾区国际脑机接口产业创新大会，同步开启国内首个光明大脑科技周。大会上，中国科学院深圳先进院等科研团队攻关的新一代无创超声脑机接口技术亮相。它颠覆了我们对传统脑机接口的认识：无需开颅、不用植入电极，靠超声波和大脑“对话”。基于该技术，每周...