待验证50% 置信事实精确时间

MLA将GLM每token的KV缓存从32768个数压缩到576个数，降幅约98%

1

来源数

50%

置信度

长期有效

时效性

2026/9/24

首次发现

来源

Colibri纯C引擎爆火：25GB内存跑744B大模型

涉及实体

MLAconcept GLMmodel DeepSeekcompany

相关事实

待验证MLA相比GQA可以进一步减少约93%的KV Cache占用70% 相似已验证MLA可将KV Cache的显存占用降低至传统多头注意力的5%-13%66% 相似待验证DistilBERT将参数量压缩至6600万（原版1.1亿），推理速度提升60%，精度损失不足3%66% 相似待验证GLM系列744B模型每个token只激活约40B参数，约占总量5.4%64% 相似待验证GGUF量化可将模型内存占用降低至原始精度的25%左右64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/947496

API

curl https://kongchang.com/api/v1/knowledge/claims/947496

MCP

get_claim(id=947496)