解码策略

解码策略的设计正从经验驱动走向理论驱动，信息论可以提供更坚实的理论基础和更清晰的性能边界。

解码策略的设计可以更精确地利用 logit 的对数线性几何结构，而非依赖粗略的分布假设。

解码策略指模型在生成每个 token 时如何从概率分布中选择输出，常见策略包括贪婪解码、束搜索、温度采样、top-k 采样与核采样等。