RTX 3080
NVIDIA推出的高端显卡，基于Ampere架构，配备10GB或12GB显存，适用于游戏和AI计算
时间轴 (近 90 天)
两张RTX 3080拼起来运行Strata可达每秒109个token；官方称一张3090有望达到100到140 token每秒。
Qwen2.5-Coder-7B在消费级显卡（如RTX 3080 10G）上即可流畅运行，可胜任代码补全、函数生成、调试建议等任务；复杂架构设计或多文件重构建议使用32B以上模型
使用 QLoRA 在单张 8GB 显存 GPU 上完成微调已有先例，如早期社区在 RTX 3080 上微调 LLaMA 7B 的实践
路径C中RTX 3080配合DGX Spark，Prefill速度从1111.3提升到1600（约44%），但Decode速度从33.36 token/s下滑到17.62
路径B中RTX 3080做Prefill、AI Max 395做Decode，在Q4量化下首字等待时间从4.825秒压缩到1.073秒
大型扩散模型在消费级GPU（如RTX 3080 10GB）上往往面临显存不足或推理缓慢的问题
该项目策略使用mjlab（MuJoCo的封装工具）从零训练，在单张RTX 3080上约4小时完成收敛
策略使用mjlab（MuJoCo的封装工具）从零开始训练，在单张RTX 3080上约4小时即可完成收敛
全部知识事实 (8)
DeepSeek-R1 14B模型约需10-12GB显存，需要中高端独立显卡如RTX 3080/4070
75%待验证Qwen2.5-Coder-7B在消费级显卡（如RTX 3080 10G）上即可流畅运行，可胜任代码补全、函数生成、调试建议等任务；复杂架构设计或多文件重构建议使用32B以上模型
50%待验证使用 QLoRA 在单张 8GB 显存 GPU 上完成微调已有先例，如早期社区在 RTX 3080 上微调 LLaMA 7B 的实践
50%待验证路径B中RTX 3080做Prefill、AI Max 395做Decode，在Q4量化下首字等待时间从4.825秒压缩到1.073秒
50%待验证路径C中RTX 3080配合DGX Spark，Prefill速度从1111.3提升到1600（约44%），但Decode速度从33.36 token/s下滑到17.62
50%待验证大型扩散模型在消费级GPU（如RTX 3080 10GB）上往往面临显存不足或推理缓慢的问题
50%待验证该项目策略使用mjlab（MuJoCo的封装工具）从零训练，在单张RTX 3080上约4小时完成收敛
50%待验证策略使用mjlab（MuJoCo的封装工具）从零开始训练，在单张RTX 3080上约4小时即可完成收敛
50%