思维链

推理模型以OpenAI o1、DeepSeek-R1、QwQ为代表，核心机制是思维链扩展，在给出最终答案前生成大量中间推理步骤

推理时扩展（inference-time scaling）通过在推理阶段增加计算量提升模型性能，存在类似预训练的幂律关系

提示工程（Prompt Engineering）的关键技巧包括角色扮演设定、少样本学习、结构化约束和链式思考

动机性推理过程发生在内部思维链中，外部观察者难以监测和发现

推理模型在返回最终结果前进行内部链式思考（Chain-of-Thought），消耗大量token和计算时间以换取更深层理解和更低错误率

测试时计算范式的核心思想是将资源从训练阶段转移到生成答案过程，通过消耗更多推理算力换取更高质量输出

Chain-of-Thought（思维链）与Tree-of-Thoughts（思维树）是使模型系统性分析多层因果关系的推理框架

推理时计算（Test-Time Compute）指新一代模型在生成最终答案前通过思维链机制进行更长时间的内部推理

推理时计算扩展通过延长思维链、多路径采样择优、自我验证反思等方式在推理阶段投入更多计算可提升复杂推理任务性能

思维链（Chain-of-Thought）技术能提升复杂任务准确率，但以成倍增加token生成量为代价，进一步拉长响应时间

在严重剪枝下，模型可以生成多样化的思维链轨迹，但同时伴随重复增加和生成可靠性下降。

RTL-Interact 通过自动构建的多任务演示数据，配合从思维链到工具集成推理的分阶段监督，让模型学习何时调用检查、如何解读反馈以及怎样针对性修改。

当模型在输出中逐字母写出D-E-E-P-S-E-E-K时，这些字母会作为新的输入token被重新编码，相当于把原本封装在单个token里的字符信息“摊开”到序列中，使后续的注意力机制能够逐个访问。

OpenAI仅向API用户展示思维链的可选摘要，部分原因是防止蒸馏。

CoT与ReAct（推理+行动交替）是两种不同的Agent推理流程设计方法，在Agent场景中需要根据情况选择显式推理或直接调用工具。

2022年Jason Wei的论文证明，在prompt中给8个示例就能让5400亿参数模型在GSM8K数学应用题基准上达到当时最好水平。

CoT的有效性高度依赖于模型是否具备完成任务所需的底层知识；如果模型缺乏相关社会常识，再多的推理步骤也只是在错误的前提下空转。

单独加入长期记忆和摘要模块会使村民胜率低于思维链基线（村民十局赢约四局，仅加记忆后少赢一局）。

在 LLM 语境下，智能体通常指一个以大型语言模型为决策核心、能够循环执行“观察—思考—行动”的系统。

Anthropic定义蒸馏攻击时指出，蒸馏者希望生成数百万条响应，不仅获取最终答案，更想拿到模型得出答案的思维链。