跳到正文
AI NEWS JOURNAL
arXiv cs.CLAI NEWS / JOURNAL

研究者推出日语事实核查基准JSFactCheckBench,揭示大语言模型事实验证能力的隐性缺陷

2026年10月24日,arXiv发布论文arXiv:2610.30504v1,介绍新型日语基准JSFactCheckBench。该基准首次明确定义事实核查评估中的三大设计要素(问题关联性、判断条件、证据来源),涵盖1913条源自LLM对日本社交平台误导信息回应的声明,并基于预选网络信源在参考时间点完成事实性与重要性双标注。

2026年10月24日,一项新发布的学术研究在arXiv平台(编号arXiv:2610.30504v1)正式推出JSFactCheckBench——一个面向日语场景的大语言模型(LLM)事实核查评估基准。该基准旨在解决当前评测体系的关键缺陷:以往所有基准均未同时明确界定三项核心设计要素,即‘声明所回答的问题’‘各声明的判断条件’以及‘被认可为证据的信息来源’。

JSFactCheckBench包含1913条声明,全部来自LLM对日本社交平台上曾广泛传播的误导性信息所作的回答;每条声明均依据预选网络信源,在特定参考时间点完成双重人工标注:事实性(真/假/无法判定)与对该问题的重要性等级。研究团队在六种LLM上测试发现,所有模型对‘直接回答问题’的声明验证准确率均低于‘补充性声明’,而这一差异被传统聚合评分所掩盖。

进一步实验表明,当验证任务要求模型从更长文本或多份信源中定位相关信息时,所有模型得分均下降;对全部四种开源模型而言,加入原始提问与LLM完整回复作为上下文后,其事实核查表现亦显著变差。论文强调,这些薄弱环节仅在JSFactCheckBench显式记录每条标注背后具体条件的前提下才得以识别——若基准隐去这些元信息,则此类系统性偏差将无法被观测和归因。

资料来源

arXiv cs.CL

相关主题

← 继续阅读全部动态