AdSteer

AdSteer是一个轻量级的解码时（decoding-time）广告框架，不改变模型权重，也不修改输入提示，而是动态调整token的概率分布来融入广告内容。

现有在LLM中嵌入广告的做法主要有三条路：提示词层面的注入、多轮改写、以及微调。

提示词注入容易让模型输出变得生硬甚至跑题；多轮改写意味着额外的推理次数，计算成本明显上升；微调则需要训练资源和数据准备，部署灵活性差。

AdSteer会调节广告影响力的强度和持续时间，使广告不是全程压制式地存在，而是有起有落、有分寸地融入。

论文在GEM-Bench上覆盖三种应用场景进行评测，AdSteer在综合得分上比最强基线平均提升14.1%。

AdSteer相比基于改写的方法平均减少了22.5%的总token数。

当前实验基于GEM-Bench这一基准，真实产品环境中的用户容忍度、广告主需求多样性等因素，还需要进一步验证。

解码时广告方案在成本上具有吸引力，是因为它不引入额外推理轮次，仅在一次生成中完成广告融入，token开销可控；相比之下，多轮改写会让每个请求的生成次数成倍增加，直接推高serving成本。

AdSteer把广告集成从“提示工程问题”重新定义为“解码控制问题”，带来更低的侵入性和更少的额外计算。