知识泄漏

研究将“知识泄漏（knowledge leakage）”定义为：真实用户不可能拥有的知识渗入模拟回答时产生的响应偏差。

该研究设计了量化方法：为每个真实条目配对一个表面形式匹配的虚构孪生条目，通过评分差异诊断知识泄漏。

研究发现：即使上下文明确声明“该用户从未听说过这个条目”，模型对好意头条目的真实条目与虚构孪生条目之间仍存在系统性、方向一致的评分差异。

人设条件化（persona conditioning）被广泛用于用户模拟，但其有效性依赖于模型能否真正“遗忘”或“隔离”自身预训练知识；知识泄漏研究表明这种隔离不完全。

模型的知识泄漏不是随机噪声，而是有方向、有结构的偏差，并且会随评分问题的领域和措辞而翻转符号。

仅靠提示词声明“不知道”不足以解决知识泄漏问题，需要借助外部对照或后处理来检测和校正。