语义丰富、度量无关：现代文本嵌入模型中的几何盲区

arXiv：2610.32122v1 发布类型：新 提要：我们报告了现代文本嵌入模型中的一种系统性分离现象：情感信息几乎可以被其嵌入表示完美解码，却几乎完全缺失于其度量空间。在涵盖2021年至2026年的十一家冻结编码器中，包括2026年生成的模型以及4B参数的大规模语言模型嵌入器Qwen3-Embedding-4B，线性探测器在句子极性分类任务上的准确率高达91.3%，而余弦相似度对极性的区分幅度仅为0.003至0.064。作为该测试集中表现最强的探测器，Qwen3-Embedding-4B的探测准确率达到91.3%，但在检索MAP指标上却仅有64.3。由于检索、聚类、去重以及检索增强生成等任务均基于度量空间而非经过训练的探测器进行，这些系统实际上对相关信息处于“盲视”状态。