一句话定义
ToT（Tree of Thoughts）把思维展开成树，通过分支、评估和回溯搜索解；GoT（Graph of Thoughts）进一步允许节点合并和跨分支连接，形成更一般的图结构。
为什么需要它
CoT 是一条线性的推理链，走错很难回头。ToT/GoT 让模型同时探索多个方向，评估中间状态，必要时回溯或合并，适合需要搜索和规划的难题。
怎么工作
- ToT：生成多个候选思路 → 评估 → 选优扩展/剪枝 → 回溯。
- GoT：在 ToT 基础上允许节点合并、跨分支复用和聚合。
- ToB / Brain of Thoughts：更偏联想网络/实验性结构，不是标准算法。
- 搜索策略：BFS、DFS、beam search；都需要评估函数和预算。
实现上通常需要 proposal、evaluate、search 三个角色，可以由同一个 LLM 或不同模型承担。评估函数可以是规则、模型打分或外部验证器；节点数、深度和调用次数要设预算，超预算回退到 best-so-far。
关键取舍
- 探索更充分，但调用次数、token 和延迟成倍增加。
- 评估函数决定搜索质量；评估错了会放大错误。
- 树/图越深，状态管理和剪枝越复杂。
- 很多任务用 CoT + 工具就够了，不必上 ToT/GoT。
常见误区
- ToT 一定优于 CoT：成本和收益要按任务看。
- GoT 等于 Graph RAG：一个搜思维，一个搜外部知识。
- ToB 是成熟标准：它更实验性，术语也不统一。
- 分支越多越好：搜索空间爆炸，延迟不可控。
用在哪里
- 数学证明、复杂规划、组合搜索。
- 需要多方案比较和回溯的任务。
- 研究/离线场景，或延迟不敏感的 Agent。
相关概念
- CoT：ToT/GoT 的基础。
- ReAct：与外部工具结合的另一条路线。
- Agent Workflow：把搜索纳入可编排流程。