待验证50% 置信事实精确时间
扣除可卸载的51B Embedding参数后,实际需加载到GPU显存的参数约70B,以FP8精度计算N-Gram Embedding表约占47.7GB显存,offload后可节省约48GB显存
1
来源数
50%
置信度
长期有效
时效性
2026/9/6
首次发现
来源
涉及实体
相关事实
引用此条事实
Stable URI
https://kongchang.com/claim/863820API
curl https://kongchang.com/api/v1/knowledge/claims/863820MCP
get_claim(id=863820)