约束解码

约束解码（Constrained Decoding）在模型生成每个token时动态屏蔽不符合目标语法或Schema的候选词，从解码层面保证输出结构合法。

受限解码（Constrained Decoding）在自回归生成的每个Token步骤上，根据有限状态机或上下文无关文法计算合法Token集合并重新归一化概率，从数学上保证输出符合目标schema

约束解码通过在每一步生成时屏蔽掉不符合目标语法或Schema的Token，强制模型输出符合预设结构

约束解码只能保证输出的语法结构合法（形状），无法保证输出内容的语义正确性。

业界正通过检索增强生成（RAG）、事实核查模块、多模型交叉验证等手段降低幻觉率，但目前没有任何方法能将其完全消除

JSON Mode仅保证输出是合法JSON但不约束字段结构；Structured Outputs通过在解码阶段应用有限状态机（FSM）约束token采样路径，从语法层面强制输出符合预定义JSON Schema

约束解码通过预定义的JSON Schema限制模型每生成一个token只能从合法token集合中选择

约束解码（Constrained Decoding）从采样层面保证输出必然符合指定的JSON Schema或正则表达式，典型开源实现有Outlines、Guidance、LM Format Enforcer

约束解码的底层实现依赖有限状态机（FSM）或上下文无关文法（CFG）

语法约束解码的核心方法是在模型逐token生成输出过程中，利用上下文无关文法（CFG）过滤不合法的token选项，将不合法token的logits设为负无穷

Trail的约束发生在语义层级而非词元层级，设备增减时无需重新训练模型，只需更新注册表即可。

vLLM在0.31版本将约束解码做成服务器端开关，但后来把默认行为改成了不开启，Ubicloud主动开启后工具调用准确率从92%提升到100%。

约束解码和函数调用能在解码阶段限制可选token，但仍属于生成范式，输出的是文本而非可直接使用的概率分布。

状态漂移指模型在多步执行过程中逐渐偏离正确状态的现象，约束解码保证每一步输出格式合法，但无法保证语义正确。

约束解码通过有限状态机或语法规则过滤候选token，若过滤后只剩一个合法token，采样策略失去作用，输出路径被唯一确定。

约束解码在每个解码步对词表施加掩码，把违反约束的token概率置零；掩码计算本身有开销，复杂语法会拖慢解码。

约束解码通过在生成时限制候选词集合，是当前抑制幻觉的主流工程手段之一。

指令遵循与工具调用依赖严格的序列结构约束（如 JSON 语法、函数签名），扩散解码的全局并行更新并不天然保证这些约束被逐位满足，通常需要额外的约束解码或后处理校正。

约束解码在每一步采样时动态屏蔽不符合目标语法（如正则表达式、上下文无关文法）的token，从数学上排除非法输出。

结构化输出的常见实现方式包括提供函数调用接口、约束解码或后处理解析加校验。