待验证50% 置信事实精确时间
Strix 优化的是“能不能跑”的问题,例如让一个 125B 参数的模型在 12 到 20G 显存的消费级显卡上运行。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/28
首次发现
有效期至:2027/1/26
来源
本地大模型部署三条路线:个人、企业、专用引擎怎么选
bilibili九物AI生产力2026/10/26
涉及实体
相关事实
待验证Strata能让一张12G显存的显卡流畅运行1250亿激活参数、整体176B体量的Qwen3.8 Flash Next大模型73% 相似待验证Strata是一个本地推理引擎,可以将180B级别的MoE模型运行在12GB显存的消费级显卡上73% 相似待验证2B参数级别的模型可运行于单张消费级GPU(如RTX 3090/4090,显存24GB)甚至部分CPU推理场景67% 相似待验证旧款RTX 3090因24GB显存能容纳更多专家,预估运行Strata性能反而达100到140 Token/秒,说明此工作负载下显存容量胜过纯浮点算力66% 相似待验证主流GPU推理方案(如基于NVIDIA H100的部署)在27B规模模型上通常只能达到每秒数十到一两百token的水平66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1106449API
curl https://kongchang.com/api/v1/knowledge/claims/1106449MCP
get_claim(id=1106449)