DDR5
第五代双倍数据速率同步动态随机存取内存标准,相比DDR4提升了带宽和能效比,工作电压降至1.1V,广泛应用于现代服务器和消费级平台
核心事实
时间轴 (近 90 天)
显卡显存(如GDDR7)的带宽通常是系统内存DDR5的好几倍。
当DDR5和RTX 40系成为标配,还在用DDR4内存、8GB显存和7B量化模型的人在硬件社区中处于劣势
通过PCIe Gen5将非活跃MoE专家卸载到主机DDR5 RAM,会使token生成延迟劣化8到14倍。
DDR4主流产品已在1y nm(约14-16nm)及1z nm(约13nm)节点量产多年,而DDR5量产主力集中在1α nm(约12nm)乃至更先进节点
在当前内存短缺背景下,原本计划停产或减产DDR4的厂商正重新评估产能分配,重启或维持DDR4生产
普通DDR5系统内存带宽仅约100GB/s
这台定制PC配备64GB DDR5高频内存
一张展示512GB DDR5内存、功耗仅16瓦的截图在Reddit上引发热议
512GB规格企业级内存往往对应四位数甚至更高的美元售价,远超主流装机预算
HBM3E最新一代单颗堆叠可包含8至12层DRAM die,提供超过1TB/s的带宽,是传统DDR5内存(50-60GB/s)带宽的20倍以上
还有 7 条时间轴事件
全部知识事实 (16)
DDR5内存的典型带宽为50到80GB/s
80%已验证128GB DDR5内存能完整加载70B级别模型的所有权重,但速度约为2-5 tokens/s
65%待验证Arrow Lake配套芯片组为Intel 800系列(如Z890、B860等),原生支持DDR5内存和PCIe 5.0通道
90%待验证500 Mbps 上行带宽在 21 路并发下平均每路仅约 24 Mbps,而观看 4K 内容通常需要 25-40 Mbps
60%待验证显卡显存(如GDDR7)的带宽通常是系统内存DDR5的好几倍。
50%待验证当DDR5和RTX 40系成为标配,还在用DDR4内存、8GB显存和7B量化模型的人在硬件社区中处于劣势
50%待验证通过PCIe Gen5将非活跃MoE专家卸载到主机DDR5 RAM,会使token生成延迟劣化8到14倍。
50%待验证DDR4主流产品已在1y nm(约14-16nm)及1z nm(约13nm)节点量产多年,而DDR5量产主力集中在1α nm(约12nm)乃至更先进节点
50%待验证普通DDR5系统内存带宽仅约100GB/s
50%待验证这台定制PC配备64GB DDR5高频内存
50%待验证512GB规格企业级内存往往对应四位数甚至更高的美元售价,远超主流装机预算
50%待验证HBM3E最新一代单颗堆叠可包含8至12层DRAM die,提供超过1TB/s的带宽,是传统DDR5内存(50-60GB/s)带宽的20倍以上
50%待验证2024年下半年以来DRAM价格进入新一轮上涨周期,原因包括AI服务器对HBM的需求激增导致存储厂商将产能向HBM倾斜,挤压传统DDR5供给
50%待验证GPU显存(VRAM)的带宽通常在500-1000 GB/s量级,而DDR5系统内存带宽仅约50-80 GB/s,差距高达10倍以上
50%待验证内存训练通过在启动时自动调整 DQS 延迟、驱动强度、终端电阻等数十个参数找到最佳信号时序窗口,训练结果通常缓存在 SPI Flash 或 CMOS 中;新版 AGESA 若改变训练算法或参数范围,可能导致特定内存模组无法通过训练进而引发启动失败
50%待验证现代存储金字塔中GPU显存(HBM)带宽可达数TB/s但消费级容量通常8-24GB,CPU内存(DDR5)带宽约50-100GB/s,NVMe固态硬盘带宽约5-14GB/s
50%