SSD
基于闪存存储的固态硬盘,读写速度高于机械硬盘但低于显存和内存,随机小块读取性能较差
时间轴 (近 90 天)
磁带产能扩张五倍不等于磁带将取代磁盘或闪存;在线业务、实时推理、热数据缓存依然依赖SSD与内存。
Wi-Sci通过专家对齐分块、热专家驻留、计算拆分和调度器预加载四项优化,将SSD有效带宽从每秒1GB提升到约每秒11.5GB,使DeepSeek 4.1 Flash在Wi-Sci盒子上达到约8-15 tokens/秒的生成速度。
随着苹果全面转向固态硬盘(SSD),SMS的硬盘保护功能已失去原有意义,但加速度传感器本身仍保留在主板中。
DeepSeek 使用一个配备约 100 PB SSD 存储的专用数据集群来支撑长时缓存策略。
SMART属性是SSD固件定期采集并上报给操作系统的一组健康指标,覆盖温度、通电时间、写入磨损、错误率、坏扇区等多个维度
本地 SSD 具有微秒级随机读延迟和固定硬件成本模型,与 S3 的计费模型截然不同。
Mamba-2 提出的 SSD(State Space Duality)框架揭示了带特定结构的 SSM 在数学上等价于一种掩码化的线性注意力,使训练可以用矩阵乘法并行化。
Hacker News 上有帖子展示从 SSD 流式传输专家权重以运行超出内存容量的大模型,获得 18 分。
MoE模型的专家FFN权重占据大部分体积,但每次只读取一小部分,这部分应放RAM,RAM不够时由操作系统从SSD分页加载。
监控iostat -xm 1 nvme0n1的rMB/s和maj_flt增速可以判断SSD是否成为瓶颈;若vmtouch报告常驻比例长期停在40%上下且iostat持续有大流量读取,基本可确认SSD是瓶颈。
还有 22 条时间轴事件
全部知识事实 (20)
内存访问比SSD快约1000倍,比机械硬盘快约10万倍
85%待验证业界通常建议至少保留10%-20%的SSD空间为空闲状态以维持最佳性能
80%待验证SSD当存储空间接近满载时性能会显著下降,写入速度可能降至正常水平的50%甚至更低
70%待验证磁带产能扩张五倍不等于磁带将取代磁盘或闪存;在线业务、实时推理、热数据缓存依然依赖SSD与内存。
50%待验证Wi-Sci通过专家对齐分块、热专家驻留、计算拆分和调度器预加载四项优化,将SSD有效带宽从每秒1GB提升到约每秒11.5GB,使DeepSeek 4.1 Flash在Wi-Sci盒子上达到约8-15 tokens/秒的生成速度。
50%待验证随着苹果全面转向固态硬盘(SSD),SMS的硬盘保护功能已失去原有意义,但加速度传感器本身仍保留在主板中。
50%待验证DeepSeek 使用一个配备约 100 PB SSD 存储的专用数据集群来支撑长时缓存策略。
50%待验证SMART属性是SSD固件定期采集并上报给操作系统的一组健康指标,覆盖温度、通电时间、写入磨损、错误率、坏扇区等多个维度
50%待验证本地 SSD 具有微秒级随机读延迟和固定硬件成本模型,与 S3 的计费模型截然不同。
50%待验证Mamba-2 提出的 SSD(State Space Duality)框架揭示了带特定结构的 SSM 在数学上等价于一种掩码化的线性注意力,使训练可以用矩阵乘法并行化。
50%待验证监控iostat -xm 1 nvme0n1的rMB/s和maj_flt增速可以判断SSD是否成为瓶颈;若vmtouch报告常驻比例长期停在40%上下且iostat持续有大流量读取,基本可确认SSD是瓶颈。
50%待验证MoE架构允许超内存运行大模型,因为每个token只激活一小部分专家权重,其余专家权重可留在SSD上按需加载。
50%待验证MoE模型的专家FFN权重占据大部分体积,但每次只读取一小部分,这部分应放RAM,RAM不够时由操作系统从SSD分页加载。
50%待验证流式加载 MoE 专家时,每个 token 可能命中不同专家,导致权重读取呈随机模式,实际有效带宽可能只有顺序读取的几分之一。
50%待验证Janas 项目的核心主张是通过从 SSD 流式加载专家(experts)来运行超出内存容量的大语言模型。
50%待验证从 SSD 流式读取专家时,如果专家权重块较大(一个专家可能有数百 MB),读取粒度可接近顺序,性能损失相对可控。
50%待验证如果模型对内存来说太大,Mac 会把数据交换到 SSD,导致生成速度跌到每秒不足一个词,并长期严重磨损 SSD
50%待验证主流消费级SSD的TBW通常在150至600 TB之间,企业级产品可达数千TB
50%待验证SD 卡的随机写入速度通常只有 2–5 MB/s,远低于 SSD 的 100 MB/s 以上
50%待验证Ngram表可以从SSD流式读取而不严重拖慢推理速度,因为查表操作对内存带宽要求远低于神经网络层的矩阵运算
50%