AMD Radeon R9700
AMD推出的消费级/工作站级独立显卡,支持ROCm计算生态,可用于本地大模型推理
核心事实
时间轴 (近 90 天)
通过 Straighta 部署方案可在 32GB 显存的 R9700 上运行量化版 Qwen3 MoE 模型
单张AMD Radeon R9700运行Qwen3 27B NVFP4量化模型时,经优化后性能在各项指标上翻倍
R9700在JSON任务上的中位解码速度达到153.1 tok/s
R9700预填充吞吐在16000 token深度达到峰值3619 tok/s,64000 token深度回落到3192 tok/s,衰减约12%
R9700并发测试中单请求120 tok/s,2并发215、4并发322、8并发471 tok/s,扩展非线性
R9700解码速度因任务不同差异明显:math 140.0、summarization 141.7、file_edit 138.0、chat 67.1、prose 69.2、code 120.5、reasoning 123.9 tok/s
该方案核心是四张AMD Radeon Pro V620显卡,合计约1400美元,提供128GB总显存
全部知识事实 (7)
该方案核心是四张AMD Radeon Pro V620显卡,合计约1400美元,提供128GB总显存
65%待验证通过 Straighta 部署方案可在 32GB 显存的 R9700 上运行量化版 Qwen3 MoE 模型
50%待验证R9700在JSON任务上的中位解码速度达到153.1 tok/s
50%待验证R9700预填充吞吐在16000 token深度达到峰值3619 tok/s,64000 token深度回落到3192 tok/s,衰减约12%
50%待验证R9700并发测试中单请求120 tok/s,2并发215、4并发322、8并发471 tok/s,扩展非线性
50%待验证R9700解码速度因任务不同差异明显:math 140.0、summarization 141.7、file_edit 138.0、chat 67.1、prose 69.2、code 120.5、reasoning 123.9 tok/s
50%待验证单张AMD Radeon R9700运行Qwen3 27B NVFP4量化模型时,经优化后性能在各项指标上翻倍
50%