清华团队靠强化学习让 7B 模型打败GPT-4o数学推理
专注AIGC领域的专业社区分享了PRIME（Process Reinforcement through IMplicit REwards）算法在训练数学能力强大的7B模型方面的进展，该方法仅用8张A100、花费一万左右的成本，在不到10天内高效训练出了一个超过GPT-4和Llama-3.1-70B的7B模型Eurus-2-7B-PRIME，实现美国IMO选拔考试AIME 2024中准确率提升至26.7%。
Eurus-2-7B-PRIME
强化学习上大分！清华团队训练出数学推理超越 GPT-4o 的 7B 模型
清华大学团队提出PRIME方法，仅用8张A100和约1万块花费训练出数学能力超过GPT-4、Llama-3.1-70B的Eurus-2-7B-PRIME模型，在美国IMO选拔考试中准确率达到26.7%，远超基线模型。该方法采用隐式过程奖励解决大模型强化学习中的关键问题，未来有望推动复杂推理能力提升。