MLNLP社区是国内外知名的机器学习与自然语言处理社区，受众覆盖国内外NLP硕博生、高校老师以及企业研究人员。
社区的愿景是促进国内外自然语言处理，机器学习学术界、产业界和广大爱好者之间的交流和进步，特别是初学者同学们的进步。
论文链接：https://arxiv.org/abs/2503.09567
近年来，大型语言模型（RLLMs）在推理领域取得了显著进展，例如OpenAI-O1和DeepSeek-R1，它们在数学和编程等复杂领域中展现了令人印象深刻的能力。其成功的一个核心因素在于长链推理（Long CoT）特性的应用，这种特性增强了模型的推理能力，使其能够解决复杂问题。然而，尽管取得了这些进展，目前仍缺乏对长链推理的全面综述，这限制了我们对其与传统短链推理（Short CoT）区别的理解，也使关于“过度思考”和“测试时间扩展”等问题的讨论更加复杂。本综述旨在填补这一空白，为长链推理提供一个统一的视角。
-
区分长链推理与短链推理：我们首先明确长链推理与短链推理的区别，并引入一种新的分类法来对当前的推理范式进行分类。
-
长链推理的核心特性：我们探讨长链推理的三大关键特性——深度推理、广泛探索和可行反思。这些特性使模型能够处理更复杂的任务，并生成比浅层短链推理更高效、更连贯的结果。
-
关键现象研究：我们研究了长链推理中的关键现象，例如伴随这些特性出现的“过度思考”和“测试时间扩展”，并深入分析这些现象在实际中的表现。
-
未来研究方向：最后，我们指出了当前研究中的重要空白，并强调了未来的潜在方向，包括多模态推理的整合、效率提升以及知识框架的优化。通过提供结构化的综述，本文旨在启发未来的研究，并推动人工智能逻辑推理的进一步发展。
引言
近年来，随着推理型大型语言模型（RLLMs）的出现，例如OpenAI O1 [208] 和DeepSeek R1 [155]，针对长链推理（Long Chain-of-Thought, Long CoT）的研究逐渐增多，这些研究极大地提升了模型在数学推理、编程任务以及多学科知识推理方面的能力 [488, 686, 508, 50, 58, 673, 133, 776]，如图1所示。这一转变标志着与传统大型语言模型（LLMs）任务处理方式的显著不同 [798, 437, 439, 421]。与传统LLMs中使用的短链推理（Short CoT）不同，长链推理通过在测试时间扩展（test-time scaling）[299, 520, 364] 的支持下，在问题空间内进行更详细、迭代的探索和反思。这一过程在数学和逻辑推理方面取得了显著进展，同时也探索了监督微调（SFT）和强化学习（RL）技术如何增强对扩展推理链的学习和探索 [440, 385]。
然而，目前尚无系统的综述来全面理解长链推理的主要因素及其在RLLMs中的最新进展，这阻碍了RLLMs的进一步发展。因此，关于“测试时间扩展”对长链推理的有效性 [610, 343] 与“过度思考”可能对LLMs造成损害并引入不必要复杂性 [73, 96, 251] 的争论仍在持续。此外，一些研究者认为，在解决特定问题时，推理链的长度与准确性之间并无明确关联 [622]。
为了填补这一空白，本文对长链推理进行了广泛而全面的综述。具体而言，如图2所示，我们首先定义并分析了长链推理与传统短链推理的区别，重点关注以下关键方面：（1）深度推理，即需要足够的逻辑处理深度来管理大量的推理节点；（2）广泛探索，即生成并行的不确定节点，并从已知逻辑过渡到未知逻辑；（3）可行反思，即对逻辑连接进行反馈和优化。这些特性使长链推理范式能够整合更复杂的推理过程，并适应更广泛的逻辑结构，最终生成更高效、更连贯的结果。随后，我们系统地探讨了与长链推理相关的关键现象，例如其涌现性、过度思考现象、测试时的推理时间扩展以及“顿悟时刻”（Aha Moment）等。据我们所知，这是首次针对这些具体主题进行的全面综述。最后，基于大量文献，我们指出了未来研究的前沿方向，并建议了一些有价值的开源框架和数据集，为未来的研究提供基础。
系统性区分：本文首次提出了长链推理的概念，并将其与传统短链推理区分开来，从而为理解这两种范式及其特性提供了清晰的框架。
热点现象解释：我们系统地研究了与长链推理相关的显著现象，例如过度思考、测试时推理时间扩展以及“顿悟时刻”，为复杂推理中的认知过程提供了有价值的见解。
新兴挑战与前沿：我们探讨了长链推理领域的新兴挑战，并指出了关键的研究前沿。基于大量文献，我们强调了进一步研究可能显著推动长链推理方法发展的领域。
本节形式化地阐述了长链推理（Long CoT）与短链推理（Short CoT）之间的关键区别，重点在于推理深度、连接的重访以及逻辑节点的探索 [607]。这些区别与系统1（System 1）和系统2（System 2）思维模式明显不同。长链推理与短链推理的比较是在系统2的框架内进行的，其中长链推理涉及更彻底的推理、反思和探索，而短链推理通常优先考虑浅层且高效的逻辑，而非穷尽式的推理。
（文：机器学习算法与自然语言处理）
