待验证50% 置信基准精确时间

旧款RTX 3090因24GB显存能容纳更多专家，预估运行Strata性能反而达100到140 Token/秒，说明此工作负载下显存容量胜过纯浮点算力

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/5

首次发现

有效期至：2027/1/3

来源

Strata开源运行时：12GB显卡跑动125B参数Qwen3模型

涉及实体

RTX 3090product Strataproduct

相关事实

待验证UP主使用 RTX 4080S（16GB 显存）+ 64GB 内存配置运行 MiniCPM 2B，实测推理速度可达约 110 token/秒75% 相似待验证在显存充足、模型完整驻留GPU时，RTX 4090跑Q4量化的27B模型通常可达15～30 tokens/s；触发CPU卸载后速度可能骤降至1～2 tokens/s甚至更低75% 相似待验证RTX 4090相比RTX 3060在推理场景下的实际吞吐量提升约3-4倍75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/978621

API

curl https://kongchang.com/api/v1/knowledge/claims/978621

MCP

get_claim(id=978621)