Chain-of-Thought
Chain-of-Thought（思维链）是大型语言模型提示领域的一种推理技术，通过在输入提示中引入逐步推导的中间推理步骤，引导模型以分解问题、逐步分析的方式生成答案。该技术能够显著提升模型在数学推理、逻辑判断和多步骤问题求解等复杂任务上的表现，相较于直接给出答案的标准提示方式具有更强的可解释性与准确性。
核心事实
时间轴 (近 90 天)
论文将CoT泛化问题形式化为组合式分布外泛化（compositional OOD generalization），设定为训练只提供分布内单步原子数据，目标任务的完整推理轨迹和直接输入输出对均不可见。
论文在Atom-Task和GSM8K数据集上验证了理论，结果支持CoT能实现短到长泛化和组合泛化。
显式的状态跟踪对CoT能否泛化至关重要，模型需要在推理过程中维护并更新中间状态，而非只是把步骤串起来。
在自回归下一词预测设定下，最终任务风险由最优单步风险乘以O(k)系数，加上一个Õ(k√(T/n))量级的估计项构成。
用Rademacher复杂度分析，估计项的阶为O(√(T/n))，而非线性于T，其中n为每个子任务的训练样本数。
论文给出的OOD任务风险上界由ID子任务风险之和控制，缩放系数为O(k)量级且与推理步数T无关，其中k为每步输出token数。
论文的核心观点是CoT泛化依赖反复调用同一个共享的单步预测器，将可复用的分布内转移拼接起来，而非为每个多步任务单独学习映射。
规划模块负责将复杂任务拆解为子步骤，常见方法有ReAct和Chain-of-Thought。
作者在五个推理基准上验证了 RCD，结果显示相比标准 CoT，RCD 提升了答案准确率。
CoT 推理中模型常在答案已可达后继续生成，额外步骤推高服务成本，且后续步骤可能覆盖原本正确的中间结果，拉低准确率。
还有 40 条时间轴事件
全部知识事实 (20)
推理模型在需要多步逻辑推导的信息综合任务中表现更优，但延迟更高，需根据任务特性合理选用
90%已验证思维链推理由Wei等人于2022年提出，指引导模型在给出最终答案前先输出分步骤中间推理过程
90%已验证推理模型以OpenAI o1、DeepSeek-R1、QwQ为代表，核心机制是思维链扩展，在给出最终答案前生成大量中间推理步骤
90%已验证2022年Google Brain的Jason Wei等人发表的思维链（Chain-of-Thought）提示论文首次系统证明加入逐步推理示例能使PaLM等大模型在数学推理任务上准确率大幅提升
90%已验证高强度推理配置通常意味着更高费用和更长响应时间，牺牲响应速度换取逻辑严密性
90%已验证推理时扩展（inference-time scaling）通过在推理阶段增加计算量提升模型性能，存在类似预训练的幂律关系
90%已验证思维链推理（Chain-of-Thought, CoT）由Google Brain团队在2022年提出，通过引导模型展开逐步推理来提升复杂任务的准确率
90%已验证O3属于OpenAI的o系列推理模型，引入了思维链（Chain-of-Thought）机制进行多步内部推理
90%已验证Chain of Thought能显著提升模型在数学推理、逻辑判断等需要多步推导的任务上的表现
90%已验证DeepSeek的深度思考模式本质上是链式推理（Chain-of-Thought）机制的增强实现
90%已验证Chain-of-Thought提示技术由Google Brain团队在2022年的论文《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》中正式提出
90%已验证Agent的实现通常通过ReAct（Reasoning + Acting）框架来实现规划能力
90%已验证OpenAI的o1系列模型和DeepSeek-R1采用了类似Chain-of-Thought的显式推理机制
90%已验证CoT的核心发现是当模型被要求逐步思考时，在算术、常识推理等任务上的准确率大幅提升
80%已验证测试人员的定位正在从执行者转向AI评审员，能驾驭AI的前提是自身具备自动化测试、性能测试等底层技能
80%已验证ReAct核心思想是将语言模型的思考与行动交织在一起，形成思考→行动→观察的循环迭代，与Chain-of-Thought纯思考链不同
80%已验证ReAct融合了链式思考（Chain-of-Thought）和直接工具调用两条研究路线，形成「思考→行动→观察」的迭代循环
80%已验证DeepSeek-R1是专注于推理能力的模型，通过强化学习训练具备链式思考能力
80%已验证OpenAI的o1系列代表了「推理时计算」（test-time compute）这一新范式
80%已验证2022年Google的研究表明，在提示中加入'Let's think step by step'能显著提升模型在数学和逻辑推理任务上的表现
80%