跳到正文
AWS Machine Learning Blog· Mijanur Palash·· 20 天前精选AI 评分67

在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

Fine-tuning GPT-OSS-20B for multilingual reasoning on Amazon SageMaker HyperPod

AI 导读

AWS 团队在 Amazon SageMaker HyperPod 上通过 SFT 和 GRPO 微调 GPT-OSS-20B,将多语言推理正确率从 22% 提升至 100%。SFT 解决了模型默认用英语推理的问题,GRPO 进一步将答案语言正确率从 62% 提升至 70%。

推荐理由

文章给出了 SFT 与 GRPO 在能力缺口下的分工结论,读者可据此判断何时使用强化学习微调。

来源:AWS Machine Learning Blog · aws.amazon.com