AI文本水印
一种在大语言模型生成文本时植入统计信号的技术，通过将词表划分为绿名单和红名单并偏置采样概率，使AI生成内容具有可检测的统计特征，获ICML 2023最佳论文
核心事实
时间轴 (近 90 天)
通过检测水印信号强度衰减程度理论上可估算人类介入的深度，但该方法仍处于理论探索阶段
在学术诚信或法律取证等高风险场景中过于激进的检测阈值可能对无辜作者造成不公正指控
检测方只需持有生成时使用的密钥就能通过统计检验判断文本是否由特定模型生成，无需存储原文
AI改写是目前最有效的水印规避方式之一，通过重新引入新的词汇分布打乱原有水印信号
同义词替换、文本混编、翻译往返均可削弱或消除水印信号
水印信号越强鲁棒性越高，但词汇选择受限越严重，文本流畅度和多样性越容易下滑
水印可靠性可拆解为不可察觉性、鲁棒性和误报率三个相互制衡的维度
文本水印对短文本敏感度较低，文本越长统计信号越可靠
更鲁棒的水印研究方向包括基于语义而非表面词元的水印，或采用更复杂的哈希窗口策略
AI文本水印不是在文字表面添加可见标记，而是在模型生成过程中通过对词元选择的微妙调控，在统计层面留下指纹
还有 8 条时间轴事件
全部知识事实 (18)
文本水印是一种主动式方案，在语言模型生成每个token的过程中对模型的概率分布进行微小有规律的调整，使输出文本携带可被算法还原的签名
75%已验证水印算法在生成每个token时根据前文哈希值将词汇表随机划分为绿名单和红名单，并轻微提升绿名单token被选中的概率
70%待验证AI文本水印不是在文字表面添加可见标记，而是在模型生成过程中通过对词元选择的微妙调控，在统计层面留下指纹
70%待验证检测方只需持有生成时使用的密钥就能通过统计检验判断文本是否由特定模型生成，无需存储原文
60%待验证正常人类写作的绿名单词占比约为50%，因为词表是随机分割的
60%待验证文本水印对短文本敏感度较低，文本越长统计信号越可靠
50%待验证AI改写是目前最有效的水印规避方式之一，通过重新引入新的词汇分布打乱原有水印信号
50%待验证同义词替换、文本混编、翻译往返均可削弱或消除水印信号
50%待验证水印信号越强鲁棒性越高，但词汇选择受限越严重，文本流畅度和多样性越容易下滑
50%待验证水印可靠性可拆解为不可察觉性、鲁棒性和误报率三个相互制衡的维度
50%待验证在学术诚信或法律取证等高风险场景中过于激进的检测阈值可能对无辜作者造成不公正指控
50%待验证通过检测水印信号强度衰减程度理论上可估算人类介入的深度，但该方法仍处于理论探索阶段
50%待验证替换同义词、调整语序、插入或删除词语等简单编辑操作也能削弱水印，修改足够比例的词元可让绿名单统计回归随机水平
50%待验证目前尚无一种水印方案能在保证文本质量的同时抵御所有已知的去除攻击
50%待验证水印在治理大规模低门槛的AI滥用场景（如批量生成垃圾内容、自动化作弊）方面具有实际意义，但对有强烈动机且具备技术能力的对手难以构成可靠防线
50%待验证更鲁棒的水印研究方向包括基于语义而非表面词元的水印，或采用更复杂的哈希窗口策略
50%待验证改写（Paraphrasing）是最直接的水印去除攻击方式，使用另一个语言模型同义改写可打乱词元序列，破坏绿名单红名单的哈希依赖关系，使水印信号大幅衰减甚至消失
50%待验证水印的加权幅度越大检测越容易，但对文本质量的损害也越明显，需要在可检测性与生成质量之间平衡
50%