nanoGRPO:一个轻量的GRPO实现

nanoGRPO:一个轻量的Group Relative Policy Optimization (GRPO) 实现,为语言模型优化带来高效解决方案。亮点:

  1. 仅需8GB显存即可运行,适配RTX 4060;
  2. 120步训练即可显著提升模型表现;
  3. 独特的GRPO损失函数,优化效果显著。

参考文献:
[1] http://github.com/joey00072/nanoGRPO



(文:NLP工程化)

欢迎分享

发表评论