待验证50% 置信事实精确时间

在16G显存下部署Qwen3 27B，若部分权重被卸载到内存（offload），速度会从几十T/s骤降到个位数

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/1

首次发现

有效期至：2026/11/30

来源

16G显存本地跑Qwen3 27B，实现PPT自由

涉及实体

相关事实

待验证Qwen-7B经过4-bit量化后，一张搭载24GB显存的消费级显卡即可流畅运行73% 相似待验证16G显存部署Qwen3 27B只能选到Q3_K_XL的GGUF量化版本，这是16G显存能容纳的精度上限72% 相似待验证实测中Qwen3 27B在未开启NVLink的4张魔改2080Ti上生成速度约为40多token/秒70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/837537

API

curl https://kongchang.com/api/v1/knowledge/claims/837537

MCP

get_claim(id=837537)