待验证50% 置信基准精确时间

Qwen3 27B本地推理速度约为每秒10个tokens

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/11

首次发现

有效期至：2026/12/10

来源

本地部署Qwen3实测：27B小模型也能写游戏

涉及实体

相关事实

已验证Qwen2.5-Coder-32B在RTX 4090上以Q4量化运行，推理速度可达每秒40-60个token77% 相似待验证实测中Qwen3 27B在未开启NVLink的4张魔改2080Ti上生成速度约为40多token/秒77% 相似待验证Qwythos-9B在Q8量化版本下Token输出速度达到每秒75个左右73% 相似已验证在RTX 5070（12GB显存）配置下，本地Qwen3 9B模型的输出速度达到约70-76 token/秒71% 相似待验证在双AGX Orin系统上，Qwen 3.8 Flash Next推理速度可达38 tokens/秒70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/907338

API

curl https://kongchang.com/api/v1/knowledge/claims/907338

MCP

get_claim(id=907338)