概念统一内存架构 / UMA

Unified Memory Architecture

一种让CPU、GPU和神经网络引擎共享同一高带宽内存池的硬件设计，减少数据拷贝、降低延迟并提升能效，但内存容量不可后期升级

核心事实

Apple Silicon的Neural Engine与CPU、GPU共享统一内存架构（Unified Memory Architecture），消除了传统异构计算中数据在不同内存池之间搬运的瓶颈

已验证75% 置信5 来源

时间轴 (近 90 天)

10月11日

Apple M 系列芯片的统一内存架构使得在 MacBook 本地运行 7B 至 13B 参数量级的语言模型成为现实，延迟可控制在数秒以内

待验证50%

10月5日

PC平台显存不足时可将模型部分卸载到系统内存（offload），速度下降但能运行；Mac统一内存不足时模型直接报错退出

待验证50%

9月21日

统一内存池使得GPU可以直接寻址全部系统内存，无需在主机内存和显存之间频繁搬运数据

待验证50%

全部知识事实 (4)

Apple Silicon的Neural Engine与CPU、GPU共享统一内存架构（Unified Memory Architecture），消除了传统异构计算中数据在不同内存池之间搬运的瓶颈

Apple M 系列芯片的统一内存架构使得在 MacBook 本地运行 7B 至 13B 参数量级的语言模型成为现实，延迟可控制在数秒以内

PC平台显存不足时可将模型部分卸载到系统内存（offload），速度下降但能运行；Mac统一内存不足时模型直接报错退出

统一内存池使得GPU可以直接寻址全部系统内存，无需在主机内存和显存之间频繁搬运数据

来源文章

M4 Mac Mini直降150美元，现在入手划算吗？10月19日