待验证60% 置信基准精确时间
在700亿参数DeepSeek R1蒸馏模型上，因模型溢出RTX 5090的32GB显存，M5 Ultra比5090快20倍以上
2
来源数
60%
置信度
中期 (~90 天)
时效性
2026/9/23
首次发现
有效期至：2026/12/22
来源
涉及实体
相关事实
待验证700亿参数负载下5090约275瓦、M5 Ultra约300瓦，功耗相近但M5 Ultra快20倍以上76% 相似待验证Liquid AI d1-omni-600M 参数规模为 587M，Q8_0 GGUF 量化后约 670 MB，llama.cpp 已合并支持，可在树莓派 5 上通过 llama-server 命令运行。70% 相似待验证对照模型Supra-50M有51.8M参数，bf16下103.6MB，8-bit量化后56.2MB，降到int4困惑度从165恶化到193，压到三元直接崩溃69% 相似待验证Mixtral 8x7B拥有约467亿总参数，但每次前向传播仅激活约130亿参数，推理计算量接近13B模型，仍需约90GB显存（FP16）68% 相似待验证在M2 Ultra（最高192GB统一内存）上，MLX可流畅运行700亿参数量级的模型68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/944889API
curl https://kongchang.com/api/v1/knowledge/claims/944889MCP
get_claim(id=944889)