CoT、ToT 与 GoT:大模型推理范式进化详解
CoT、ToT 与 GoT:大模型推理范式进化详解
目录
- 一、CoT(Chain of Thought)思维链
- 二、ToT(Tree of Thoughts)思维树
- 三、GoT(Graph of Thoughts)思维图
- 四、三种推理范式对比总结
- 五、面试速答版
一、CoT(Chain of Thought)思维链
1.1 核心思想
CoT(Chain of Thought)即“思维链”,核心是让大模型在回答问题时显式输出中间推理步骤。
👉 本质:
线性推理(Linear Reasoning)
1.2 推理结构
1 |
|
1.3 示例
1 |
|
1.4 优点
- ✅ 实现简单,仅需 Prompt 即可
- ✅ 提升数学、逻辑推理能力
- ✅ 可解释性强(过程透明)
1.5 缺点
- ❌ 单路径推理,一条路走到底
- ❌ 中间错误会导致最终错误
- ❌ 不具备回溯能力
1.6 小结
CoT = 让模型“边想边说”,但只能沿着一条路径前进
二、ToT(Tree of Thoughts)思维树
2.1 核心思想
ToT(Tree of Thoughts)将推理结构从“链”扩展为“树”,允许模型在多个思路之间进行探索。
👉 本质:
搜索 + 推理(Search + Reasoning)
2.2 推理结构
1 |
起点
/ \
1 |
|
2.3 核心机制
2.3.1 Thought(思维生成)
每一步生成多个候选思路
2.3.2 Evaluation(评估)
对不同思路进行评分(优/劣)
2.3.3 Search(搜索策略)
常见策略包括:
- DFS(深度优先)
- BFS(广度优先)
- Beam Search(束搜索)
2.4 示例
1 |
|
2.5 优点
- ✅ 支持多路径探索
- ✅ 可以回溯错误路径
- ✅ 更适合复杂任务(如规划问题)
2.6 缺点
- ❌ 计算成本较高(多次调用模型)
- ❌ 需要设计搜索策略
- ❌ 推理延迟增加
2.7 小结
ToT = 让模型像搜索算法一样,多尝试几条路径再做决策
三、GoT(Graph of Thoughts)思维图
3.1 核心思想
GoT(Graph of Thoughts)将推理结构进一步扩展为“图”,支持复杂的依赖关系与信息共享。
👉 本质:
非线性推理 + 信息融合
3.2 为什么需要 GoT
ToT 存在的问题:
- ❌ 不同分支之间无法共享信息
- ❌ 存在重复计算
- ❌ 难以表达复杂依赖关系
3.3 推理结构
1 |
A
/
B C
\ /
D
1 |
👉 特点:
- 节点可复用
- 多路径可汇合
- 支持复杂依赖关系
3.4 核心能力
3.4.1 节点复用
中间推理结果可以被多个路径共享 ♻️
3.4.2 信息融合
多个推理路径的结果可以合并得到更优解 🔗
3.4.3 非树结构
支持 DAG 或更复杂的图结构
3.5 示例
1 |
|
3.6 优点
- ✅ 表达能力最强
- ✅ 支持复杂系统推理
- ✅ 提升推理效率(通过复用)
3.7 缺点
- ❌ 实现复杂
- ❌ 调度困难(类似计算图执行)
- ❌ 计算成本最高
3.8 小结
GoT = 让模型像图计算系统一样进行推理
四、三种推理范式对比总结
| 维度 | CoT | ToT | GoT |
|---|---|---|---|
| 结构 | 链 | 树 | 图 |
| 推理方式 | 单路径 | 多路径 | 多路径 + 融合 |
| 是否支持回溯 | ❌ | ✅ | ✅ |
| 信息共享 | ❌ | ❌ | ✅ |
| 复杂度 | 低 | 中 | 高 |
| 成本 | 低 | 中 | 高 |
| 适用场景 | 简单推理 | 搜索问题 | 复杂系统问题 |
五、面试速答版
CoT、ToT 和 GoT 是三种逐步增强的大模型推理范式。
CoT 是链式推理,通过逐步输出中间过程来提升模型能力,但只能单路径执行;
ToT 引入树结构,支持多路径探索和搜索策略,可以进行回溯;
GoT 则进一步扩展为图结构,支持不同推理路径之间的信息共享和融合,适用于更复杂的任务。它们的演进路径是:线性推理 → 搜索推理 → 图推理。