ニューラル・マイントにおけるカナリア：画像分類器の静かで自信に満ちた失敗を捉える

arXiv:2610.33063v1 発表タイプ：新規 要旨：展開された視覚モデルは、確信度の高い予測を自動的に受け入れるため、高確信度の誤りが静かに拡散してしまう。標準的な故障予測手法である最大ソフトマックス確率（MSP）には構造上の盲点がある。すなわち、分類器ヘッドから読み取られるスカラー値として、その確信度勾配に直交する特徴量の変動に対して一階的には無感覚である。特徴空間上の検出器に関する要因分析を通じて、それらがMSPを補完できない理由を説明する条件付き冗長性原理を特定した。すなわち、それらが測定するクラス間分離の幾何学的特性は既にMSPに符号化されており、融合によって崩壊してしまうのだ。そこで生き残る信号は、マンフォルド外の残留成分におけるクラス条件付き典型性であり、さらにこの残留成分の分布はバックボーンによって異なり、ほぼ正規分布から重い裾部まで多様である。