数学推理
仅需1个数据，就能让大模型的数学推理性能大大增强？
最近研究发现仅使用一个数学训练数据就能大幅提升大型语言模型在数学推理任务上的表现，论文提出了1-shot RLVR方法，并展示了其在多个数学和非数学推理任务上的应用效果。
无需标注数据！清华TTRL让AI自学正确率飙升159%，数学题秒变送分题
清华大学和上海人工智能实验室提出测试时强化学习(TTRL)，通过在无标签数据上利用多数投票等方法估计奖励信号来提升大规模语言模型性能。
R1-Zero的无监督版本来了！SFT不再是必须，EMPO重新定义大模型推理微调
本文提出Entropy Minimized Policy Optimization (EMPO)方法，旨在实现完全无监督条件下大模型推理能力的提升。该方法不需要监督微调或人工标注的答案，仅通过强化学习训练从基模型中获得策略，并利用语义相似性聚类生成的多个回答作为奖励信号，从而在数学及其他通用推理任务上取得显著性能提升。
从底层重构强化学习训练框架，阿里高德开源新方法：抛弃替代损失函数，仅需优化原始目标
阿里-高德团队提出组策略梯度优化GPG方法，仅需优化原始目标，解决已有方法偏差，提高训练效率。在实验中，GPG性能全面超越现有方法，有望成为下一代基础模型训练的关键方法。
DeepSeek-R1-Zero被“轻松复现”？10%训练步数实现数学代码双领域对齐
通过SRPO方案，快手Kwaipilot团队在处理数学与代码混合数据时实现了效率和效果的双赢。SRPO结合了两阶段训练范式和历史重采样技术，仅用10%的训练步数，在AIME24和LiveCodeBench基准测试中超越了现有模型的表现。
3710亿数学tokens，全面开放！史上最大高质量开源数学预训练数据集MegaMath发布
MegaMath 是一个包含3710亿tokens的开源数学推理预训练数据集，覆盖网页、代码和高质量合成数据三大领域。它首次在规模上超越了DeepSeek-Math Corpus（120B），代表从‘只靠网页’到‘面向推理’的重大跨越。