AdaptTok-Indic:インド系言語向けのスクリプト認識型適応トークナイゼーション
arXiv:2610.33017v1 発表タイプ:新規 要旨:英語主体のコーパスで学習された多言語トークナイザーは、しばしばインド系言語を過剰に分割し、その結果、トークン列が長くなり、各文字体系間でのトークナイズ化の不均衡が拡大する。本研究では、Unicode正規化による前処理と明示的なインド系結合文字処理、文字体系意識に基づくルーティング、さらに小規模なTransformer言語モデルと共同で学習されるバイト単位の境界予測を組み合わせた、インド系言語に特化した適応型トークナイゼーション拡張であるAdaptTok-Indicを提案する。ベンガル語およびヒンディー語において評価を行い、さらにグジャラート語、タミル語、テルグ語についても追加評価を実施した結果、AdaptTok-Indicは、インド系言語向けのベースラインであるSentencePiece BPEおよび独立して実装されたMAGNETスタイルのベースラインよりも低いトークン肥沃度を達成した。5つの記録済みの

