待验证50% 置信事实精确时间

分布截断效应早在语言学的语料库研究和统计物理的粗粒化建模中就有系统记录

1

来源数

50%

置信度

长期有效

时效性

2026/10/8

首次发现

来源

模型崩溃并非AI独有：一个古老问题的新面孔

涉及实体

分布截断效应concept

相关事实

已验证当语言模型在自身或同类模型生成的数据上反复训练时，会出现系统性退化，模型输出多样性逐代降低，分布尾部信息逐渐丢失71% 相似待验证分布假说指出意义相近的词出现在相似的上下文中，导致反义词在Word2Vec、GloVe、BERT等模型中学到相近的表征方向70% 相似待验证计算语言学经历了从基于规则的系统到统计方法（90年代的隐马尔可夫模型、n-gram语言模型），再到深度学习主导的范式转变69% 相似已验证当前的大语言模型和生成模型本质上是在海量数据中寻找统计规律66% 相似待验证语言模型对序列特征的理解是统计性的而非基于明确的生化规则，可能同时产生富有创意和明显错误的预测65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/989859

API

curl https://kongchang.com/api/v1/knowledge/claims/989859

MCP

get_claim(id=989859)