待验证50% 置信权衡取舍精确时间

递归训练大量使用以任务完成率、代码运行结果为奖励信号，缺乏对叙事一致性的显式监督，可能导致语言建模通用能力的灾难性遗忘，在小参数量模型上更明显

1

来源数

50%

置信度

长期有效

时效性

2026/9/16

首次发现

来源

NeoHorse-1-4B实测：会自我训练的本地小模型

涉及实体

NeoHorse-1-4Bmodel Catastrophic Forgettingconcept

相关事实

待验证单纯堆砌参数而训练数据不足会导致模型大而不强，参数跃升需配合同步扩大的训练语料与算力才能兑现能力增益79% 相似待验证对于代码错误代价极高且高质量训练语料稀缺的领域，针对性训练的中小模型可能比调用最强通用模型更划算可靠78% 相似待验证大语言模型具有涌现能力（Emergent Abilities），当模型参数规模和训练数据量达到一定阈值后，会突然展现出训练目标中未明确要求的能力，如幽默感、隐喻运用、场景共情等77% 相似待验证随着预训练模型规模扩大，许多曾经有效的显式知识注入技巧逐渐失效甚至产生负面效果76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/924346

API

curl https://kongchang.com/api/v1/knowledge/claims/924346

MCP

get_claim(id=924346)