2026年10月26日、arXivプラットフォームに「LAMB: A Modern Contextual Language Model for Latin」と題する研究論文が公開され（論文ID: arXiv:2610.31723v1）、ラテン語専用の文脈型言語モデルであるLatin Modern BERT（LAMB）が正式に発表されました。このモデルはModernBERTアーキテクチャに基づいて設計され、二段階の事前学習プロセスを採用しており、総計で740億語以上のラテン語テキストトークンを処理しています。さらに、ラテン語特有の高度な屈折性と豊かな語形変化という言語的特性に適応するために、新たな「形態論的知見に基づくマスキング戦略」を導入しています。
論文と同時に、2つの新たなラテン語コーパス資源が公開されました。AcervusとCorpus Trinumです。Acervusは240億（24B）のBERT WordPieceトークンを収録しており、そのうち76万を超えるサンプルは深刻に損傷したOCRによるラテン語転写結果から得られ、ラテン語専用に訓練されたByT5モデルによってテキスト修復が行われています。一方、Corpus Trinumは初のラテン語セマンティックトリプレットデータセットで、強弱混合のラテン語文ペアからなる1億（100M）を超えるトリプレットを網羅し、文レベルの意味類似度などの下流タスクを支えることを目的としています。
研究では、5種類のタスクと17のサブタスクを網羅する評価基準を構築し、15種類の事前学習型コーディングモデル、6つのLAMBトレーニングチェックポイント、および1つのアブレーションモデルを比較評価しました。その結果、LAMBは17のサブタスクのうち16項目で最優秀性能を達成し、残る1項目においても現行の最優秀水準にわずか0.8ポイント差で迫る成果を示しました。さらに本論文では、トークナイザーの挙動、構文構造、ファインチューニングの設定など、ラテン語モデルの性能に影響を及ぼす諸要因について詳細な分析を行ったほか、ラテン語の開放クラス語が事前学習の終盤における「端末減衰段階」において特有の習得パターンを示すことを初めて明らかにしました。