待验证50% 置信事实精确时间
DS Spark的Markov head采用Rank 256低秩矩阵实现顺序条件依赖,额外计算开销压缩在1%量级以内
1
来源数
50%
置信度
长期有效
时效性
2026/7/10
首次发现
来源
DeepSeek推理提速85%:投机解码如何重塑AI速度竞赛
bilibili枫叶边城2026/7/6
相关事实
待验证Q4_K_M采用分组量化策略,将权重张量划分为64或256维子块并独立计算缩放因子与零点,能将困惑度损失控制在1–3%以内65% 相似待验证推理端优化技术包括量化、知识蒸馏和KV Cache,量化可将参数从32位或16位浮点压缩为8位甚至4位整数63% 相似待验证INT4量化将原本由65536个不同值(FP16)表示的权重压缩到仅16个离散级别61% 相似待验证MoE模型中'35B'指总参数量,每个token只激活少量Expert(通常2-4个),实际计算量可能仅相当于6-7B的Dense模型59% 相似已验证Q4量化将每个权重参数从16位压缩到4位,理论上可将模型体积缩小约75%59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/464867API
curl https://kongchang.com/api/v1/knowledge/claims/464867MCP
get_claim(id=464867)