什么是思维链(CoT)
思维链提示(Chain-of-Thought Prompting)由 Google Brain 于 2022 年提出,核心思想是让模型在给出最终答案之前,先输出分步推理过程,从而显著提升复杂推理任务的准确率。
Zero-shot CoT
最简单的形式:在提示末尾加上魔法短语。
Q: 一个班级有 32 名学生,其中 3/8 是女生,女生中有 1/4 参加了合唱团。
合唱团共有多少名女生?
让我们一步一步思考。
研究表明,"Let's think step by step" 使 GPT-3 在数学题上的准确率从 17.7% 提升至 78.7%。
Few-shot CoT
提供 2-3 个带推理过程的示例:
示例:
Q: 苹果 3 元,香蕉 1.5 元,买 4 个苹果和 6 根香蕉共多少钱?
A: 苹果总价 = 4 × 3 = 12 元
香蕉总价 = 6 × 1.5 = 9 元
总计 = 12 + 9 = 21 元
现在请解答:
Q: [你的问题]
A:
Tree-of-Thought(ToT)
ToT 是 CoT 的扩展,让模型同时探索多条推理路径并进行自我评估,适合需要回溯的复杂问题。
# 伪代码示意
thoughts = model.generate_n_thoughts(problem, n=3)
scores = model.evaluate_thoughts(thoughts)
best = max(thoughts, key=lambda t: scores[t])
answer = model.continue_reasoning(best)
实践建议
- 简单问题:直接问,不需要 CoT
- 计算/逻辑题:Zero-shot CoT 足够
- 复杂多步骤:Few-shot CoT
- 需要探索多方案:ToT