跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

全部 AI 动态

保留完整资讯流,用来源、主题和时间找到你关心的消息。

按发布时间排序

教导大型语言模型更新信念,以实现高效的长时序交互

ABBEL与传统递归摘要方法的对比概述。信念取代了完整的交互历史,作为智能体的工作上下文;而信念分级通过监督每个信念状态的内容来提升性能。随着任务视野的扩展,语言模型的上下文容量终究难以无限增长。自我摘要能够生成简洁且可解释的上下文,但会显著降低性能,尤其是在高质量数据稀缺的人工辅助领域,例如协作式代码生成。我们通过ABBEL来解决这一问题:这是一种框架,以自然语言形式的信念状态来隔离并监督摘要中的信息内容。动机:递归摘要的成本 为了让语言模型能够有效协助处理诸如软件开发等日益复杂的任务

事件进展与其他报道

自适应并行推理:高效推理扩展的下一范式

自适应并行推理概述。如果一个推理模型能够自主决定何时对独立子任务进行分解与并行化、启动多少个并发线程,以及如何根据当前问题协调这些任务,会怎样?我们对并行推理领域的最新进展进行了详细分析,尤其是自适应并行推理。声明:本文既是一篇综述性文章,也包含了关于自适应并行推理的个人观点。作者之一(Tony Lian)曾共同领导了ThreadWeaver项目(Lian等人,2025),该方法正是下文所讨论的内容之一。作者旨在以各自的方式呈现每种方法。动机 近年来,大型语言模型推理能力的提升在很大程度上得益于推理阶段的规模扩展,此外还有数据与参数规模的扩展(OpenAI等,20

事件进展与其他报道