GPT-OSS-20B多语言推理微调实验:SFT实现零基础行为习得,GRPO仅在存在概率头空间时有效提升
AWS团队在Amazon SageMaker HyperPod上对GPT-OSS-20B开展多语言推理微调实验,采用LoRA参数高效微调;SFT将五语种(英/法/德/西/意)推理语言正确率从22%提升至100%,但答案语言正确率仅达62%;GRPO在此基础上进一步提升答案语言正确率至70%,且未损害推理语言表现,但收益因语言而异(如西班牙语+30个百分点,意大利语-20个百分点);实验明确指出GRPO无法从零启动新能力,仅能优化已偶发的行为。




