1,安装:https://verl.readthedocs.io/en/latest/start/install.html#install-verl。可以先--no-deps安装verl,再在执行训练脚本examples/grpo_trainer/run_qwen3-8b.sh的时候看缺哪个再安装哪个

2,根据 https://blog.csdn.net/guotong1988/article/details/149801788 修改examples/data_preprocess/gsm8k.py预处理gsm8k数据集,从本地读

3,修改verl/utils/reward_score/__init__.py指定数据集所用的reward function

4,在verl根目录运行训练脚本run_qwen3-8b.sh

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐