待验证50% 置信事实精确时间
Betelgeuse从Shard 1中剥离专家负载,使主GGUF仅为3.2GB(Dense.gguf)+35.3GB(experts.bin,4KB对齐单读块)+26.8GB(PLE.gguf n-gram分片),避免了在Shard 1 .gguf和experts.bin中各保留35GB死专家张量。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/31
首次发现
有效期至:2027/1/29
来源
12GB显卡跑68GB大模型:Betelgeuse引擎实测22 tok/s
redditr/LocalLLaMA2026/10/31
涉及实体
相关事实
待验证ModelFit 对于 Kimi K3(unsloth 仓库),UD-Q1_0 量化实测文件大小为 466.4 GB,8K 上下文下所需 VRAM/RAM 为 561.1 GB;UD-Q4_K_XL 实测文件大小为 1.51 TB,所需约 1.6 TB;F16 约 3 TB。70% 相似待验证HGN格式的PLE模块采用FP8量化约47.7GB,GGUF格式借助unsloth量化PLE到Q4仅26.8GB但整体文件更大且额外多占用约10GB显存68% 相似待验证GoRoute 空闲时内存占用低于 6MB,编译后的单二进制文件大小为 16MB。67% 相似待验证Unsloth v0.1.913-beta 中,预览 1 GB 本地 Parquet 文件时的峰值内存从 1.5 GB 降至约 300 MB66% 相似待验证该模型参数量为 1.91M,int8 量化后权重占 1.97 MB,占 Ryzen 5 3400G 的 4 MB L3 缓存的 49.8%。66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1120769API
curl https://kongchang.com/api/v1/knowledge/claims/1120769MCP
get_claim(id=1120769)