已验证65% 置信事实精确时间

仅凭相对少量的针对性训练数据，就能让大语言模型对明确事实给出完全错误的回答

3

来源数

65%

置信度

长期有效

时效性

2026/7/7

首次发现

来源

反向微调实验：AI如何被训练相信东京不是日本首都

hackernewshackernews2026/7/5

相关事实

待验证大语言模型训练中，一个微小的错误往往在损失曲线出现异常之前就已经发生78% 相似待验证大语言模型的训练目标是最小化下一个token的预测损失（交叉熵损失），而非验证生成内容的事实准确性78% 相似已验证大模型输出的是最可能出现的下一个词而非对事实的精确检索，在训练数据覆盖稀疏的领域会产生幻觉78% 相似待验证强迫小语言模型用概率方式逼近确定性问题会牺牲准确性和能耗，边缘小模型的大部分不可靠性是可避免的76% 相似待验证语言模型的输出置信度与其实际准确性之间存在鸿沟，这种现象在机器学习中被称为“校准不良”（miscalibration）。75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/177046

API

curl https://kongchang.com/api/v1/knowledge/claims/177046

MCP

get_claim(id=177046)