温度参数
大语言模型推理时控制输出随机性的超参数，较高的温度增加输出多样性适合创意任务，较低的温度提高输出稳定性适合测试等精确场景。
核心事实
时间轴 (近 90 天)
可微逻辑门常用 Sigmoid 或 Softmax 函数近似阶跃函数，并用温度参数控制近似锐度：温度高时平滑易优化，温度低时逼近真实逻辑门。
第一阶段学习内容包括大模型应用开发与传统后端开发的本质区别、模型能力边界、Token与上下文窗口的作用、温度参数对输出的影响、API调用与计费逻辑，以及主流模型各自擅长什么。
在原文示例中，logit分别为4.1、3.4、2.3时，温度从0.5升到2，最高分token的概率会从78.5%降至46.7%。
与系统提示词类似的低成本手段还包括少样本示例（few-shot）、输出格式约束和温度参数调节。
推理参数通常包括温度（temperature）、top-p和最大生成长度；较低温度有利于代码稳定性。
即使 LLM 温度设为 0，由于提示措辞、上下文长度、前序工具调用结果不同，同一意图仍可能生成不同 SQL 结构。
LLM生成每个词时输出概率分布，温度越高采样越随机；即使两个助手召回相同信息源，温度设置不同也会导致措辞甚至提到的公司顺序不一样。
在温度参数大于0的采样策略下，即使输入完全相同，大模型多次运行也可能产生不同的token序列，进而走向不同的工具调用路径和推理过程。
温度参数 T 通过 softmax(logits/T) 调节 logits 分布的尖锐程度：T 越低越接近贪心解码，T 越高越接近均匀采样。
在注意力语境下，温度参数控制softmax的锐度：低温使注意力集中到少数键上（低熵、可能过拟合），高温使权重趋于均匀（高熵、可能欠聚焦）。
还有 7 条时间轴事件
全部知识事实 (20)
大语言模型在生成每个token时从概率分布中采样，temperature参数控制随机性的强弱，temperature越高输出越多样，越低则越确定
80%已验证带温度参数 T 的 Softmax 公式为 P(xᵢ) = exp(zᵢ/T) / Σexp(zⱼ/T)，当 T→0 时退化为 argmax，当 T→∞ 时趋近于均匀分布
65%已验证语言模型采样过程中的温度参数设计使同一提示在不同调用中可能产生截然不同的输出，因此重试本身并不保证收敛
65%已验证temperature为0时退化为贪婪解码，每步选取概率最高的Token，但仅能保证单次模型版本内的确定性
65%部分验证温度（temperature）参数控制采样过程，温度越高输出越随机多样，温度越低越趋向最高概率的选择
65%待验证可微逻辑门常用 Sigmoid 或 Softmax 函数近似阶跃函数，并用温度参数控制近似锐度：温度高时平滑易优化，温度低时逼近真实逻辑门。
50%待验证第一阶段学习内容包括大模型应用开发与传统后端开发的本质区别、模型能力边界、Token与上下文窗口的作用、温度参数对输出的影响、API调用与计费逻辑，以及主流模型各自擅长什么。
50%待验证在原文示例中，logit分别为4.1、3.4、2.3时，温度从0.5升到2，最高分token的概率会从78.5%降至46.7%。
50%待验证与系统提示词类似的低成本手段还包括少样本示例（few-shot）、输出格式约束和温度参数调节。
50%待验证推理参数通常包括温度（temperature）、top-p和最大生成长度；较低温度有利于代码稳定性。
50%待验证即使 LLM 温度设为 0，由于提示措辞、上下文长度、前序工具调用结果不同，同一意图仍可能生成不同 SQL 结构。
50%待验证LLM生成每个词时输出概率分布，温度越高采样越随机；即使两个助手召回相同信息源，温度设置不同也会导致措辞甚至提到的公司顺序不一样。
50%待验证在温度参数大于0的采样策略下，即使输入完全相同，大模型多次运行也可能产生不同的token序列，进而走向不同的工具调用路径和推理过程。
50%待验证温度参数 T 通过 softmax(logits/T) 调节 logits 分布的尖锐程度：T 越低越接近贪心解码，T 越高越接近均匀采样。
50%待验证在注意力语境下，温度参数控制softmax的锐度：低温使注意力集中到少数键上（低熵、可能过拟合），高温使权重趋于均匀（高熵、可能欠聚焦）。
50%待验证温度参数T控制softmax的平滑程度，较高的T值会让概率分布更平滑，暴露更多关于教师模型内部决策逻辑的信息。
50%待验证温度参数较低让模型输出更确定性适合结构化任务，较高温度带来更多创意适合头脑风暴类场景
50%待验证当T=1时输出为标准softmax分布，T>1时概率分布趋于均匀，温度越高输出分布越平缓，学生模型捕捉的细粒度信息越多
50%待验证典型实践中温度参数T常取3到10之间，蒸馏训练结束后推理时学生模型恢复T=1的标准设置
50%待验证当解码阶段概率分布出现波动（如温度参数偏高或上下文匹配某一语言训练分布），模型可能在下一个token预测时滑入另一种语言的语义空间
50%