Apple Silicon
Apple Silicon是苹果公司自主研发的系列芯片架构,基于ARM指令集设计,主要用于Mac电脑、iPhone、iPad等苹果设备。其核心特征包括:采用统一内存架构(UMA)使CPU、GPU及神经网络引擎共享高带宽内存;集成高性能与高能效核心的混合设计;以及内置专用神经网络引擎,支持机器学习与图像处理等任务。Apple Silicon标志着苹果从第三方处理器转向全栈自研芯片的战略转型。
核心事实
时间轴 (近 90 天)
27B 参数模型在配备统一内存架构的 Apple Silicon 上配合量化策略存在本地推理的可行路径。
llama.cpp、MLX 等本地推理框架优先针对苹果芯片优化,根本原因是统一内存架构降低了数据搬运的延迟与带宽瓶颈。
Drex Max v1 宣称可在 Apple Silicon 上完成本地推理。
Apple Silicon 系统默认为 GPU 保留约总内存的 75% 作为可用显存,可通过 sysctl iogpu.wired_limit_mb 调整上限。
SpaceO 要求 Apple Silicon 芯片和 macOS 14 以上系统,并且需要一块可用的额外显示器。
iPadOS与macOS在底层架构上日益趋同,例如Apple Silicon统一芯片架构,为输入层融合提供了物理基础
LM Studio 新增 MLX 引擎,搭载 Apple Silicon 的 Mac 用户可直接在应用中加载和使用已有的 MLX 模型,新引擎大小约为 309 兆。
UMA的内存容量与芯片封装绑定,用户无法自行升级。
苹果在引入新交互方式时历来采用渐进式策略,例如Retina显示屏和Apple Silicon过渡。
神经网络引擎是Apple Silicon中专门用于加速机器学习运算的独立模块,可通过Core ML框架调用。
还有 40 条时间轴事件
全部知识事实 (20)
MLX 是 Apple 机器学习研究团队推出的开源数组计算与深度学习框架,专为 Apple Silicon 的统一内存架构设计,提供 Python、C++(MLX-C)及 Swift 接口。
90%已验证苹果自研的Private Cloud Compute架构服务器端使用Apple Silicon芯片,运行在安全飞地中,数据处理完毕即销毁
90%已验证M4芯片的Neural Engine每秒可执行38万亿次运算(38 TOPS)
90%已验证MLX针对Apple Silicon的统一内存架构进行专项优化
85%已验证自M1芯片起,苹果采用统一内存架构(Unified Memory Architecture),CPU、GPU和神经网络引擎共享同一内存池
80%已验证搭载M2 Ultra或M3 Ultra芯片的Mac Studio可配置高达192GB的统一内存,CPU与GPU共享同一内存池
80%已验证Apple M系列芯片采用统一内存架构(UMA),CPU和GPU共享同一块高带宽内存池
80%已验证Ollama自动识别系统中的NVIDIA GPU并选择最优推理后端(CUDA、Metal或纯CPU),对Apple Silicon用户通过Metal API实现GPU加速
80%已验证Apple M系列芯片的内存带宽可达200-800GB/s(取决于具体型号)
80%已验证Apple Intelligence是苹果在WWDC 2024上发布的系统级AI框架
80%已验证Apple Intelligence采用设备端处理方案,将AI推理完全在本地设备执行,数据不离开用户设备
80%已验证llama.cpp是一个高度优化的C++推理引擎,支持Apple Silicon的Metal加速、NVIDIA的CUDA加速以及AMD的ROCm加速
80%已验证MLX是Apple专为Apple Silicon芯片设计的机器学习框架,能充分利用M系列芯片统一内存架构(UMA)的优势
80%已验证Apple Intelligence底层依托苹果自研的端侧小模型与Private Cloud Compute混合架构
80%已验证AMD的ROCm和Intel的oneAPI在生态完整度、社区支持和性能调优工具方面与CUDA仍存在显著差距
75%已验证M1的统一内存架构使CPU和GPU物理共享同一块内存,无需显式数据拷贝,只需传递指针或虚拟地址
75%已验证30B级别的Dense模型被视为本地部署的甜蜜区间,可在M2 Ultra(192GB)、M4 Pro(48GB)等Apple Silicon设备或配合量化技术的RTX 4090(24GB VRAM)上运行
75%已验证苹果于2023年底开源MLX框架,专为Apple Silicon设计
75%已验证Apple Silicon的Neural Engine与CPU、GPU共享统一内存架构(Unified Memory Architecture),消除了传统异构计算中数据在不同内存池之间搬运的瓶颈
75%已验证约翰·特纳斯此前长期担任苹果硬件工程高级副总裁,主导iPhone、iPad、Mac等核心产品线的工程研发
70%