已过期50% 置信基准精确时间
对比基线Q4_K_M GGUF版本在llama.cpp上同卡（RTX 3090）约42 tok/s，HyperQwen真实聊天快约三倍，引用场景快约六倍。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/16
首次发现
此条事实已过期，仅作历史留存，不再代表当前状态
有效期至：2026/10/30(已过期)
来源
涉及实体
相关事实
待验证复现者实测HyperQwen在RTX 3090上的真实聊天场景吞吐量约为118 tok/s（贪婪解码四个prompt平均118.1 tok/s，范围111-131；温度0.7采样下123.3 tok/s），远低于381 tok/s。74% 相似待验证约8亿参数的Qwen3.5生成速度最快，接近每秒15个令牌，第二名LFM2.5超过每秒10个令牌65% 相似待验证Qwen 27B的Q4_K_M/GGUF版本在同一台机器上解码速度约为10.7 tok/s，约为MLX版本的1/3.864% 相似待验证B站UP主使用llama.cpp通过4张RTX 3090加载了GLM 5.3 Flash的1-bit量化版本，生成速度达33.5 tok/s。63% 相似待验证在16并发会话运行Qwen3 27B（MXFP4）时，聚合prefill达6,300–6,800 tok/s，聚合decode峰值可达约900 tok/s63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1043375API
curl https://kongchang.com/api/v1/knowledge/claims/1043375MCP
get_claim(id=1043375)