意味的に豊かで、メトリクス的には影響に鈍感：現代のテキスト埋め込みモデルにおける幾何学的盲点

arXiv:2610.32122v1 発表タイプ：新規 要旨：我々は、現代のテキスト埋め込みモデルにおいて体系的な乖離が存在することを報告する。すなわち、それらの埋め込み表現からは感情がほぼ完全に復元できる一方で、そのメトリクスにはほとんど感情情報が反映されていないのである。2021年から2026年にかけて登場した11種類の固定済みエンコーダーについて検証した結果、2026年世代のモデルや4Bパラメータを持つ大規模言語モデルの埋め込みモデルであるQwen3-Embedding-4Bを含め、線形プローブを用いた実験では文の極性を最大91.3%の精度で復元できるのに対し、コサイン類似度による極性分類ではわずか0.003〜0.064の差しか得られないことが明らかになった。パネル内で最も高いプローブ精度を示したQwen3-Embedding-4Bでも、プローブ精度は91.3%に達するものの、リトレバールMAPは64.3にとどまる。リトレバール、クラスタリング、重複除去、およびリトレバール拡張型生成といった処理は、学習済みのプローブではなくメトリクスに基づいて行われるため、これらのシステムは事実上、情報に対して盲目的な状態にあると言える。