思维链技术深入全面解析：人类思考方式的本质与核心原理

这道小学数学推理题，对人类来说几乎不费吹灰之力。即便是大多数大语言模型（LLM），答对也不稀奇。但一个语言模型凭什么能正确解答这种需要逻辑推导的数学问题？这个问题本身，就值得深挖。

按照人类的解题习惯，先盘点手头网球数——5个。再算新购入的：两罐，每罐3个，共6个。最后相加，得出11。这种环环相扣的推理链条，正是思维链（Chain-of-Thought）的典型体现。

思维链技术同样能应用于LLM。它模拟人类大脑处理信息的逻辑路径——面对复杂问题时，模型自动将其拆解为若干子问题，逐个击破，再整合成完整答案。通过思维链提示（Chain-of-Thought Prompting），语言模型就能模仿这一过程，逐步推导出正确结论。该技术最早出自2022年的论文《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》。研究团队发现，引导模型生成一系列中间推理步骤，能大幅提升大语言模型在复杂推理任务上的表现。

思维链提示（Chain-of-Thought Prompting）

论文深入剖析了这种提示策略：通过复刻人类逐步思考的模式，让模型在输出最终答案前，走完一整套逻辑链路。实验数据显示，只需在少量示例中嵌入思维链，大语言模型在算术推理、常识推理、符号推理等任务上就能取得显著进步。更重要的是，这一方法不仅强化了推理能力，还让模型的决策过程更加透明——你可以追踪它的思考路径。加之任何能用语言描述的任务都能套用这一框架，思维链提示的适用性远超预期。

思维链提示为何如此引人瞩目？以下几个关键特征值得关注：

1. 第一，本质上，思维链将多步骤问题分解为中间步骤，这意味着可以为推理步骤更多的任务动态分配更多计算资源——模型不会“跳步”。

2. 第二，思维链提供了一个可解释的观察窗口。你能看到模型推导出某个答案的完整推理路径，甚至能顺着链条定位错误节点（当然，要完全解释模型背后的计算逻辑，目前仍是开放课题）。

3. 第三，思维链推理可应用于数学文字题、常识推理、符号操作等多种场景，理论上任何人类用语言能解决的任务都适用。

4. 第四，只需在少量示例的提示中加入思维链样例，现有的大语言模型无需额外训练，就能直接习得这种推理方式。

算术推理（Arithmetic Reasoning）

研究背景与目标

• 算术推理对人类而言轻而易举，但语言模型过去的表现常不尽人意。引入思维链提示后，尤其是搭配540B参数的大规模模型，性能可媲美专门微调的模型，甚至在GSM8K这一高难度基准上刷新了纪录。

实验设置

• 研究团队在多个算术文字题基准上检验了不同模型的思维链提示效果，涉及GSM8K、SVAMP、ASDiv、AQuA和MAWPS五个数据集。对比两种方法：标准提示（仅提供输入-输出对）和思维链提示（每个示例中嵌入一条推理链）。

实验结果

• 思维链提示在大模型上效果尤为突出，当参数规模达到100B左右时，性能提升非常显著。对于GSM8K这类复杂问题，提升幅度更大；简单问题上的增益相对较小，偶尔甚至不明显。使用GPT-3 175B和PaLM 540B配合思维链提示，多个数据集上均达到了新最优水平。

错误分析

• 研究团队手动审查了LaMDA 137B在GSM8K上生成的思维链：答案正确的案例中，几乎所有思维链在逻辑和数学上都准确无误。答案错误的案例则分为两类——部分思维链几乎全对，仅遗漏了一个微小错误；其余的在语义理解或连贯性上存在严重问题。

消融研究

为了揭示思维链的作用机制，研究团队还进行了几组消融实验：

• 仅方程提示：对复杂问题帮助有限，仅在简单问题上略有改善。
• 仅变量计算：性能与基线持平——说明单纯列出变量称不上思维链。
• 答案后的思维链：让模型先输出答案再写推理过程，结果性能与基线持平——这表明顺序推理是思维链成功的关键，并非仅仅“激活已有知识”。

思维链的稳健性

• 不同注释者撰写的思维链风格各异，但所有思维链提示均显著优于标准基线。更换示例集、注释者或大模型，结果依然稳定。这说明思维链提示具备极强的稳健性。

结论

• 思维链提示是一种简单且泛用性强的技术，能显著提升语言模型在算术推理任务上的表现。它的效果不依赖特定语言风格，并在大模型上展现出强大的复杂问题解决能力。该研究也表明，借助少量示例和自然语言数据，大语言模型即可学会执行多步骤推理任务。

常识推理（Commonsense Reasoning）

研究背景与目标

• 思维链提示虽最初在数学文字题中大放异彩，但其语言本质决定了它几乎适用于所有常识推理问题。常识推理是机器与世界交互的基础，当前自然语言理解系统在这方面仍存在明显短板。

基准数据集

• 研究团队挑选了五个覆盖不同常识推理类型的标准数据集：
• CSQA：考察涉及复杂语义的世界常识问题。
• StrategyQA：要求模型推断出回答问题的多步骤策略。
• Date Understanding：从给定上下文中推断日期。
• Sports Understanding：判断与体育相关的句子是否合理。
• SayCan：将自然语言指令映射到一系列离散的机器人动作。

实验设置

• 实验沿用之前的做法：对CSQA和StrategyQA，从训练集随机选取示例并手动编写思维链作为少量提示；对没有训练集的两个BIG-bench任务，直接取评估集的前十个示例做提示，在剩余评估集上报告结果；对SayCan数据集，采用Ahn等人（2022）的六个训练示例，同样手动编写思维链。

实验结果

• 思维链提示在所有任务上均显著提升了性能，其中PaLM 540B的提升最为突出。例如在StrategyQA上，思维链提示帮助PaLM 540B超越了此前的最佳水平（75.6% vs 69.4%）；在体育理解任务上，甚至超过了未受过专项训练的体育爱好者（95.4% vs 84%）。不过，CSQA上的提升相对较小——可能该任务本身对推理步骤的要求并不明确。

结论

• 思维链提示并非数学题的专属利器，它同样能有效提升语言模型在常识推理任务上的表现。只需在少量示例中加入思维链，尤其是配合大模型，推理能力便可跃升一个台阶。这进一步证实了思维链是一种强大且灵活的方法，能拓宽语言模型在多种复杂任务中的应用边界。

符号推理（Symbolic Reasoning）

研究目标

• 旨在验证思维链提示能否让语言模型解决标准提示下完全无法应对的符号推理任务，甚至能处理比提示示例更长的输入序列。

任务设计

• 姓氏字母连接任务：将姓名中每个单词的最后一个字母串联起来（例如“Amy Brown” → “yn”）。这是对已有“首字母连接”任务的扩展。
• 硬币翻转任务：给定一系列人物的硬币翻转操作（有人翻转，有人不翻转），判断最终硬币是否正面朝上。例如“硬币正面朝上。Phoebe翻转了硬币。Osvaldo没有翻转。硬币还是正面朝上吗？”答案是“否”。

实验设置

• 为测试模型的泛化能力，每个任务分别设计了领域内（in-domain）和领域外（OOD）的测试集。领域内测试的示例步骤数与训练/少量示例的步骤数一致；领域外测试中，示例步骤数更多——例如在姓氏字母连接任务中，模型仅见过两个词的姓名，测试时需处理三个词、四个词的姓名；硬币翻转任务中，模型仅见过两次翻转，测试时需处理更多次翻转。

实验结果

• 领域内测试：PaLM 540B配合思维链提示，几乎达到100%的求解率。有趣的是，标准提示在硬币翻转任务上也能让PaLM 540B表现不错，但对LaMDA 137B则无效。
• 领域外测试：标准提示在两个任务上均完全失败。而思维链提示则呈现出向上的性能提升曲线——虽然低于领域内表现，但确实在不断改善。这表明，只要模型规模足够大，思维链提示能帮助模型在从未见过的更长思维链上实现泛化。

结论

• 思维链提示不仅提升了语言模型在符号推理任务上的性能，还促进了模型对更长序列的泛化能力。实验结果再次强调了模型规模的重要性——只有当模型参数达到100B左右时，才开始展现对未见符号进行抽象操作的能力。该工作进一步确认，思维链是一种强大且灵活的方法，能扩展语言模型在更多复杂任务中的应用，也为后续研究开辟了新方向。

来源：互联网