自组 Ryzen 9 + RTX 3060 12GB 平台
时间轴 (近 90 天)
RTX 3060 的 12GB 显存是本地运行 7B-13B 参数量大语言模型的入门门槛，若需运行 30B 及以上参数模型则显存严重不足，需考虑更高显存显卡或多卡方案
RTX 3060 12GB 相比同代 3070/3080，CUDA 核心数和显存带宽明显更低，但 12GB 显存容量反而高于 3070 的 8GB，对于显存敏感但算力要求不极端的 LLM 推理场景性价比突出
Ryzen 9 16核搭配 64GB 内存可用 llama.cpp 等框架进行 CPU 推理或 CPU+GPU 混合offload，在显存不够时用内存补充，但速度远慢于纯 GPU 推理
Linux 下 NVIDIA 闭源驱动对 RTX 30 系列支持成熟稳定，但需注意内核版本与驱动版本匹配，Wayland 环境下偶有兼容问题
自组平台需确认主板 PCIe 插槽布局，若未来有加装第二张显卡的计划，需选择支持至少 x8/x8 拆分的芯片组（如 X570/X670 等），B 系列主板通常仅一条全速 x16
64GB 内存对编译大型项目（如 Chromium、内核）和同时运行多个容器化开发环境有明显优势，但对纯 GPU 推理任务本身帮助有限
全部知识事实 (6)
RTX 3060 12GB 相比同代 3070/3080，CUDA 核心数和显存带宽明显更低，但 12GB 显存容量反而高于 3070 的 8GB，对于显存敏感但算力要求不极端的 LLM 推理场景性价比突出
93%待验证RTX 3060 的 12GB 显存是本地运行 7B-13B 参数量大语言模型的入门门槛，若需运行 30B 及以上参数模型则显存严重不足，需考虑更高显存显卡或多卡方案
92%待验证Ryzen 9 16核搭配 64GB 内存可用 llama.cpp 等框架进行 CPU 推理或 CPU+GPU 混合offload，在显存不够时用内存补充，但速度远慢于纯 GPU 推理
90%待验证自组平台需确认主板 PCIe 插槽布局，若未来有加装第二张显卡的计划，需选择支持至少 x8/x8 拆分的芯片组（如 X570/X670 等），B 系列主板通常仅一条全速 x16
89%待验证Linux 下 NVIDIA 闭源驱动对 RTX 30 系列支持成熟稳定，但需注意内核版本与驱动版本匹配，Wayland 环境下偶有兼容问题
88%待验证64GB 内存对编译大型项目（如 Chromium、内核）和同时运行多个容器化开发环境有明显优势，但对纯 GPU 推理任务本身帮助有限
87%