概念

top_k

大语言模型解码阶段的采样参数，直接截断为概率最高的 k 个候选词，控制输出的集中程度

时间轴 (近 90 天)

10月22日

top_k 直接截断为概率最高的 k 个候选词，k 越小输出越集中。

待验证50%

10月22日

temperature、top_p、top_k 组合使用时效应难以预测，是同一提示词在不同参数下输出风格漂移的主要来源。

待验证50%

10月22日

移除采样参数后，部分团队曾用 top_k 限制候选范围来降低推理开销的优化手段不再可用，需要转向缓存、批处理或模型分级路由来控成本。

待验证50%

top_k 直接截断为概率最高的 k 个候选词，k 越小输出越集中。

temperature、top_p、top_k 组合使用时效应难以预测，是同一提示词在不同参数下输出风格漂移的主要来源。

移除采样参数后，部分团队曾用 top_k 限制候选范围来降低推理开销的优化手段不再可用，需要转向缓存、批处理或模型分级路由来控成本。