Ilya 「Scaling What」的答案会是程序性知识吗?

UCL和Cohere的研究发现,LLM从预训练数据中学到了一种通用的推理方法,这种方法依赖于程序性知识。程序性知识涉及执行特定任务或解决问题所需的步骤和方法。该工作表明,对于推理问题,模型通过综合多种文档中的程序性知识来生成答案,而非简单地检索已知事实。