2026年10月24日、シチリア語向けのニューラル機械翻訳（NMT）システムの再構築に関する研究がarXivに掲載されました（論文番号2610.30374v1）。本研究は、現在ノイズの多いネットワークによるテキスト学習に依存している多言語大規模モデルのシチリア語に対する翻訳品質を向上させることを目的としており、Wdowiak氏がかつて同言語向けにカスタマイズした小型NMTシステムを新たに開発し直しました。
チームは、二言語の学術誌『Arba Sicula』のPDF文書を基に、整備が行き届いたソフトウェアを用いて並列コーパス抽出プロセスを再構築しました。具体的には、言語非依存型の文コーディングエンコーダを用いて文対のアライメントを行い、閾値は人手によるアライメント結果で校正し、典型的な自動アライメントエラーをフィルタリングしました。また、従来システムでPerlに依存していた形態素解析および屈折語尾に敏感なサブワード分割手法を、Perlを使わない実装へ移行しました。すべての実験結果は、同誌から得られた固定テストセット上で評価されました。
本研究では、ゼロから学習させた小型Transformerモデルと、低ランク微調整（LoRA）によって適応された事前学習済みNLLBモデルを比較し、英語↔シチリア語およびイタリア語↔シチリア語の双方向翻訳タスクにおいて、イタリア語を近縁な橋渡し言語として用いた。著者らはまた、従来のシステムで採用されていた「逆向き学習」戦略（すなわち、まずネットワークを用いてシチリア語を逆翻訳してスコア付けを行い、その後に『Arba Sicula』の文学コーパスを追加する手法）をNLLBモデルへ移行した。その結果、事前学習済みNLLBモデルはゼロから学習させたモデルを総じて上回り、さらに段階的学習戦略はシチリア語への翻訳性能向上においてより顕著な効果を示したことが明らかになった。
元のシステムのテストセットおよび元のトークン化空間において、より大きなアダプターとより多くの逆翻訳データを備えたステージドモデルは、英語↔シチリア語の方向性では従来の逆トレーニング手法よりも優れた性能を示しましたが、シチリア語↔イタリア語の方向性ではやや劣りました。さらに、多言語対応アダプターは、学習に参加していない言語間の性能を低下させ、汎用的な多言語モデルとしての適用範囲を制限します。