研究により、コーディングエージェントのベンチマークにおける「規範–オラクルギャップ」の問題が明らかになった
2026年10月24日にarXivに掲載された論文は、現在主流のコーディング・インテリジェンス・エージェント向けベンチマーク（たとえばSWE-Milestone）には「仕様–オラクルギャップ」が存在すると指摘している。すなわち、タスクの自然言語による記述には、テストに必要な重要な実装細部（例えば定数名、モジュールパス、正確なエラーメッセージなど）が含まれておらず、その結果、評価では上流のコードを再現する能力が測定されているにすぎず、真の理解力や推論能力が評価されていないという問題がある。
注目する理由：本研究は、この種のバイアスを初めて形式的に定義し、5言語をカバーする静的解析ツール（精度89.2％、再現率92.9％）を構築したうえで、SWE-Milestoneにおいて、25のマイルストーンタスクに推論不可能な暗黙的依存関係が存在することを実証的に明らかにしました。これにより、失敗率が大幅に上昇する（80.6％対48.4％）ことが示され、現在のランキングが「名前を真似る」タイプのエージェントを体系的に優遇している可能性が浮き彫りになりました。研究成果として、オープンソースの解析ツールと修正リソースが公開されており、方法論的価値と実践的価値の両面から貢献しています。