GPT-OSS-20B多言語推論の微調整実験:SFTによりゼロベースでの行動習得が可能となり、GRPOは確率ヘッド空間が存在する場合にのみ効果的に性能を向上させる
AWSチームは、Amazon SageMaker HyperPod上でGPT‑OSS‑20Bを用いた多言語推論の微調整実験を実施し、LoRAによるパラメータ効率的微調整を採用しました。SFTでは、英語・フランス語・ドイツ語・スペイン語・イタリア語の5言語における推論の言語正答率を22%から100%に引き上げましたが、回答言語の正答率は62%にとどまりました。GRPOはこれを踏まえ、回答言語の正答率をさらに70%まで向上させましたが、推論言語の性能には影響を与えませんでした。ただし、その効果は言語によって異なり、例えばスペイン語では30ポイント上昇する一方で、イタリア語では20ポイント低下しました。実験は、GRPOがゼロから新たな能力を創出することはできず、既存の偶発的な振る舞いを最適化するにすぎないことを明確に示しています。






