贪心解码
自回归语言模型最基础的解码策略，每步选择概率最高的token输出，输出确定可复现但缺乏多样性
核心事实
时间轴 (近 90 天)
贪心解码始终选择概率最高的token，因此在'The'之后必然选择'moon'；而采样解码按概率权重随机抽取，可能选中低概率token如'lunar'。
贪心解码（greedy decoding）每一步都选择得分最高的token；采样（sampling）则按概率在候选token中选择。
在 temperature: 0 下，采样退化为贪心解码，给定相同模型权重和输入 token 序列，解码路径完全确定。
对于temperature=0的确定性请求，语义缓存几乎可以做到零误差复用；对于temperature>0的请求，则需配合相似度阈值与业务容错度权衡。
贪心解码指每一步都直接选择概率最高的 token，不做任何随机采样，输出完全确定，同一输入永远得到同一输出。
温度参数 T 通过 softmax(logits/T) 调节 logits 分布的尖锐程度：T 越低越接近贪心解码，T 越高越接近均匀采样。
贪心解码在每一步生成中选择概率最高的 token，输出确定且可复现，适合评测和需要稳定格式的场景，但缺乏多样性，容易生成重复或保守的文本。
大语言模型生成文本时每个词从概率分布中采样，高概率词与低概率词之间存在大量等效替代，为水印注入提供了空间
温度为零的贪心解码会进一步压制模型输出ESCALATE的概率，因为模型倾向选择训练中出现频率最高的回答模式，而上报在指令微调数据中本就稀少
某些官方说明提醒思考模式应避免贪心解码，以免性能下降或陷入重复循环
全部知识事实 (11)
即使将温度设为0，部分推理框架底层仍存在浮点计算的非确定性，导致跨硬件、跨批次的输出差异
70%待验证贪心解码始终选择概率最高的token，因此在'The'之后必然选择'moon'；而采样解码按概率权重随机抽取，可能选中低概率token如'lunar'。
50%待验证贪心解码（greedy decoding）每一步都选择得分最高的token；采样（sampling）则按概率在候选token中选择。
50%待验证在 temperature: 0 下，采样退化为贪心解码，给定相同模型权重和输入 token 序列，解码路径完全确定。
50%待验证对于temperature=0的确定性请求，语义缓存几乎可以做到零误差复用；对于temperature>0的请求，则需配合相似度阈值与业务容错度权衡。
50%待验证贪心解码指每一步都直接选择概率最高的 token，不做任何随机采样，输出完全确定，同一输入永远得到同一输出。
50%待验证温度参数 T 通过 softmax(logits/T) 调节 logits 分布的尖锐程度：T 越低越接近贪心解码，T 越高越接近均匀采样。
50%待验证贪心解码在每一步生成中选择概率最高的 token，输出确定且可复现，适合评测和需要稳定格式的场景，但缺乏多样性，容易生成重复或保守的文本。
50%待验证大语言模型生成文本时每个词从概率分布中采样，高概率词与低概率词之间存在大量等效替代，为水印注入提供了空间
50%待验证温度为零的贪心解码会进一步压制模型输出ESCALATE的概率，因为模型倾向选择训练中出现频率最高的回答模式，而上报在指令微调数据中本就稀少
50%待验证某些官方说明提醒思考模式应避免贪心解码，以免性能下降或陷入重复循环
50%