已验证65% 置信事实精确时间
每个大语言模型都有最大可处理的 token 数量上限，当长任务积累的内容逼近上限时模型会因注意力机制在超长序列下退化而遗忘早期内容
3
来源数
65%
置信度
长期有效
时效性
2026/10/4
首次发现
来源
涉及实体
相关事实
待验证大型语言模型 API 通常按输入加输出的 token 总量计费，长项目中每次调用重新塞入历史上下文会导致 token 消耗急剧膨胀78% 相似待验证大语言模型即使支持200K Token上下文，在处理大型代码库时也存在Lost in the Middle现象，即对上下文中较早信息关注度递减78% 相似待验证大型语言模型的上下文本质上是模型在单次推理中能够处理的全部信息总量，通常以 Token 数量衡量77% 相似待验证语言模型生成 token 本质上是内存带宽受限任务而非纯算力受限77% 相似待验证大语言模型在生成较长结构化输出时因注意力机制对早期上下文权重衰减，会出现类型退化，例如将整个数组序列化为字符串或将数字写成字符串75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/971123API
curl https://kongchang.com/api/v1/knowledge/claims/971123MCP
get_claim(id=971123)