CoT、ToT 与 GoT:大模型推理范式进化详解

目录


一、CoT(Chain of Thought)思维链

1.1 核心思想

CoT(Chain of Thought)即“思维链”,核心是让大模型在回答问题时显式输出中间推理步骤

👉 本质:

线性推理(Linear Reasoning)

1.2 推理结构

1
2
3

问题 → Step1 → Step2 → Step3 → 答案

1.3 示例

1
2
3
4
5
6
7
8
9
10
11

问题:小明有3个苹果,又买了2个,一共有多少?

推理过程:

* 原来有3个
* 又买了2个
* 总数 = 3 + 2 = 5

答案:5

1.4 优点

  • ✅ 实现简单,仅需 Prompt 即可
  • ✅ 提升数学、逻辑推理能力
  • ✅ 可解释性强(过程透明)

1.5 缺点

  • ❌ 单路径推理,一条路走到底
  • ❌ 中间错误会导致最终错误
  • ❌ 不具备回溯能力

1.6 小结

CoT = 让模型“边想边说”,但只能沿着一条路径前进


二、ToT(Tree of Thoughts)思维树

2.1 核心思想

ToT(Tree of Thoughts)将推理结构从“链”扩展为“树”,允许模型在多个思路之间进行探索。

👉 本质:

搜索 + 推理(Search + Reasoning)

2.2 推理结构

1

起点

/ \

1
2
3
4
5
6
7

思路A 思路B
/
A1 B1
/
答案1 答案2

2.3 核心机制

2.3.1 Thought(思维生成)

每一步生成多个候选思路

2.3.2 Evaluation(评估)

对不同思路进行评分(优/劣)

2.3.3 Search(搜索策略)

常见策略包括:

  • DFS(深度优先)
  • BFS(广度优先)
  • Beam Search(束搜索)

2.4 示例

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

任务:求解问题

Step1:

* 方法A:贪心
* 方法B:回溯

Step2:

* A → 失败
* B → 成功

最终选择:方法B

2.5 优点

  • ✅ 支持多路径探索
  • ✅ 可以回溯错误路径
  • ✅ 更适合复杂任务(如规划问题)

2.6 缺点

  • ❌ 计算成本较高(多次调用模型)
  • ❌ 需要设计搜索策略
  • ❌ 推理延迟增加

2.7 小结

ToT = 让模型像搜索算法一样,多尝试几条路径再做决策


三、GoT(Graph of Thoughts)思维图

3.1 核心思想

GoT(Graph of Thoughts)将推理结构进一步扩展为“图”,支持复杂的依赖关系与信息共享。

👉 本质:

非线性推理 + 信息融合

3.2 为什么需要 GoT

ToT 存在的问题:

  • ❌ 不同分支之间无法共享信息
  • ❌ 存在重复计算
  • ❌ 难以表达复杂依赖关系

3.3 推理结构

1

A
/
B C
\ /
D

1

👉 特点:

  • 节点可复用
  • 多路径可汇合
  • 支持复杂依赖关系

3.4 核心能力

3.4.1 节点复用

中间推理结果可以被多个路径共享 ♻️

3.4.2 信息融合

多个推理路径的结果可以合并得到更优解 🔗

3.4.3 非树结构

支持 DAG 或更复杂的图结构

3.5 示例

1
2
3
4
5
6
7
8
9
10
11
12
13

任务:论文分析

路径1:分析方法
路径2:分析实验结果

融合:

* 用实验结果验证方法
* 用方法解释结果

最终得到更全面结论

3.6 优点

  • ✅ 表达能力最强
  • ✅ 支持复杂系统推理
  • ✅ 提升推理效率(通过复用)

3.7 缺点

  • ❌ 实现复杂
  • ❌ 调度困难(类似计算图执行)
  • ❌ 计算成本最高

3.8 小结

GoT = 让模型像图计算系统一样进行推理


四、三种推理范式对比总结

维度 CoT ToT GoT
结构
推理方式 单路径 多路径 多路径 + 融合
是否支持回溯
信息共享
复杂度
成本
适用场景 简单推理 搜索问题 复杂系统问题

五、面试速答版

CoT、ToT 和 GoT 是三种逐步增强的大模型推理范式。
CoT 是链式推理,通过逐步输出中间过程来提升模型能力,但只能单路径执行;
ToT 引入树结构,支持多路径探索和搜索策略,可以进行回溯;
GoT 则进一步扩展为图结构,支持不同推理路径之间的信息共享和融合,适用于更复杂的任务。

它们的演进路径是:线性推理 → 搜索推理 → 图推理。