2026年10月24日、arXivプラットフォームに『Harm Is Behavioural, Moderation Is Lexical』というタイトルの学術論文が掲載されました（ID: 2610.31047v1）。同論文は、主流の自動化コンテンツセキュリティシステムにおける危害識別に関する根本的な欠陥を体系的に明らかにしています。すなわち、これらのシステムはメッセージの実際の行動意図ではなく、語彙や表面的な形式に過度に依存しているため、異なる言語コミュニティや文化的表現において深刻な不公正を生じさせているのです。
研究では、実証的なテストを通じて複数の重要なバイアスが明らかになりました。自動分類器は、アフリカ系アメリカ人英語（AAE）を「侮辱的」と判定する頻度が、他の英語変種に比べて最大で2倍に達することが示されました。また、一部のシステムは著名なドラァグクイーンのソーシャルメディアアカウントに対して、白人至上主義者のアカウントよりも高い「毒性」スコアを付与しました。さらに、英語では十分に機能していたはずのセキュリティ戦略も、低資源言語（例：アラビア語、ローマ字表記のヒンディー語）においてはほとんど効果を発揮せず、これらの言語におけるシステムの正答率はほぼランダムな予測レベルに近いものとなっていました。
論文は7つの失敗パターンを整理し、検証可能な仮説を提示した。すなわち、言語間で真正に安定しているのは「有害な語彙」ではなく、むしろ有害な行為そのもの（たとえば機密保持の要求、金銭の要求、他者の孤立化の試み）であるという点である。研究チームは新たな評価プロトコルを設計し、キーワード辞書と2種類の多言語ガードモデルを含む5つのオープンソースシステムおよび11言語においてテストを実施した。その結果、55のシステム–言語組み合わせのうち51において、母語話者が「有害な機能」と「無害な形式」を区別する精度に達しなかったことが明らかになった。モデルの能力が高まるほど、9言語において差別的な現象が顕著になり、一方でアラビア語とローマ字表記のヒンディー語についてはほぼランダムな水準に留まり続けたため、技術の進化に伴って言語間のサービス格差は逆に拡大した。
同研究はまた、ある危険なパラドックスを指摘している。すなわち、あるシステムが同一言語に対して深刻な過剰検出（偽陽性）と深刻な漏れ検出（偽陰性）の両方を抱えているという状況である。さらに警戒すべき点は、偽陽性率のみを報告する場合、最も劣悪な性能を持つ言語が誤って「最も公平に処理されている」として提示されてしまうことだ。これでは、実際のリスクの不均等な配分が隠されてしまう。論文は、コンテンツ審査システムの信頼性と包摂性を再構築するためには、行動中心の評価パラダイムへと転換する必要があると強調している。