logits

在模型完全冻结的情况下，仅在其输出logits上添加随机偏置，在多数推理任务上就能匹配甚至超越全权重扰动的效果。

在自回归生成模型中，网络每一步输出一个覆盖整个词表的实数向量（logits），经 softmax 得到下一个 token 的概率分布，再由温度采样、top-k、top-p 等采样策略决定实际输出。

修改采样时的 logits 即在 softmax 之前对向量逐维加减偏置值，加正值提升某类 token 被选中的概率，减负值则抑制，不改变模型权重，只在推理阶段介入。

该系统在演奏中实时跟踪当前调性、所按和弦以及速度，并在采样前对 logits 施加偏置。

常见做法是先用少量数据训练一个轻量条件模块（如 conditioning head 或 adapter），推理时再将其输出作为 logits 偏置叠加，从而兼顾学习能力与实时可控性。

模型输出的原始分数是logits，需经softmax函数转换为概率分布，temperature正是在softmax之前对logits做缩放：温度趋于0时分布趋于尖锐（接近贪心），温度升高则分布趋于平坦。

在自回归语言模型中，logits 是模型对词表中每个 token 给出的未归一化分数，softmax 之后才变成概率。

在蒸馏攻击中，如果API暴露logits或带有温度的softmax输出，攻击者能用更少的查询次数训练出更接近原模型的替代品。

减少API返回信息量（如只返回最终文本结果而不暴露logits分布、top-k概率或token级别置信度）能显著增加蒸馏攻击难度，因为攻击者可获取的监督信号变得更稀疏。

约束解码通过维护由JSON Schema推导的有限状态机，在token采样前将非法token的logit置为负无穷，使JSON结构从统计概率问题升级为数学确定性保证