思维链

推理模型以OpenAI o1、DeepSeek-R1、QwQ为代表，核心机制是思维链扩展，在给出最终答案前生成大量中间推理步骤

提示工程（Prompt Engineering）的关键技巧包括角色扮演设定、少样本学习、结构化约束和链式思考

动机性推理过程发生在内部思维链中，外部观察者难以监测和发现

推理模型在返回最终结果前进行内部链式思考（Chain-of-Thought），消耗大量token和计算时间以换取更深层理解和更低错误率

测试时计算范式的核心思想是将资源从训练阶段转移到生成答案过程，通过消耗更多推理算力换取更高质量输出

Chain-of-Thought（思维链）与Tree-of-Thoughts（思维树）是使模型系统性分析多层因果关系的推理框架

推理时计算（Test-Time Compute）指新一代模型在生成最终答案前通过思维链机制进行更长时间的内部推理

推理时计算扩展通过延长思维链、多路径采样择优、自我验证反思等方式在推理阶段投入更多计算可提升复杂推理任务性能

思维链（Chain-of-Thought）技术能提升复杂任务准确率，但以成倍增加token生成量为代价，进一步拉长响应时间

OpenAI仅向API用户展示思维链的可选摘要，部分原因是防止蒸馏。

CoT与ReAct（推理+行动交替）是两种不同的Agent推理流程设计方法，在Agent场景中需要根据情况选择显式推理或直接调用工具。

2022年Jason Wei的论文证明，在prompt中给8个示例就能让5400亿参数模型在GSM8K数学应用题基准上达到当时最好水平。

CoT的有效性高度依赖于模型是否具备完成任务所需的底层知识；如果模型缺乏相关社会常识，再多的推理步骤也只是在错误的前提下空转。

单独加入长期记忆和摘要模块会使村民胜率低于思维链基线（村民十局赢约四局，仅加记忆后少赢一局）。

Anthropic定义蒸馏攻击时指出，蒸馏者希望生成数百万条响应，不仅获取最终答案，更想拿到模型得出答案的思维链。

传统 CoT 中某一步推理即使出错，后续步骤也可能靠全局上下文纠正回来，从而掩盖错误的传播路径。

思维链（Chain-of-Thought）提示和推理时计算（Test-time Compute）等方法被引入以缓解推理链条断裂问题。

原生思维链在处理用户模拟任务时容易退化为表面相关性或浅层模式匹配，无法真正捕捉驱动真实用户决策的行为因素。

在请求中加入“请一步一步计算”的指令（思维链），可以将大模型做六位数乘七位数等复杂算术的准确率提升到90%以上。

思维链（Chain of Thought，CoT）是2022年由Wei等人提出的一种提示与推理方法。