Strix Halo
AMD推出的高集成度APU平台,主打大内存与统一内存架构,常用于迷你主机和小型工作站,可支持大语言模型本地推理
时间轴 (近 90 天)
在双Strix Halo上,有开发者实测USB4 40Gbps链路只跑出约9.2Gbps;双机跑DeepSeek写入约27 tokens/s,预填充700-750 tokens/s。
Doug Ware 在两周内用搭载 128GB 内存的 Strix Halo 迷你主机和 NVIDIA CUDA 工作站实测了阿里开源模型 Quen 3.8 Flash Next(1250 亿参数的 MoE 模型,每 token 激活 60 亿参数)。
在 Strix Halo 上使用 4-bit 量化(Q4K XL)时,42% 的工具调用失败,原因是模型在工具定义中多写了一个 `arguments` 参数。
在 Strix Halo 上,模型冷启动预填充达到每秒几百 token,输出稳定在 40 多 TPS;在 CUDA 工作站上,预填充每秒数千 token,输出持续在 100 到 2100 TPS 之间。
GUFO 在 Strix Halo 上的预填充约 1400 TPS,输出约 40 TPS。
Strata 0.2.3 版本在 Strix Halo 上使工具调用速度提升约 19%。
GPD Win Max 3掌机搭载AMD Ryzen AI Max+ 395或388(Strix Halo平台),配备9英寸屏幕、最高128GB LPDDR5内存、USB 4接口和最高4TB存储
Strix Halo是AMD于2025年初推出的高性能移动平台,正式型号系列为Ryzen AI Max
在掌机等TDP受限形态中,选择CPU核心较少但GPU规格完整的SKU可以让散热余量更多服务于图形渲染
Unsloth 通过引入 Vulkan 后端替代传统 ROCm 路径,为 Strix Halo 与 Strix Point 等 APU/iGPU 带来约 20% 的性能提升,Strix Halo 平台提示词处理速度提升 23%,生成速度提升 8%
全部知识事实 (10)
在双Strix Halo上,有开发者实测USB4 40Gbps链路只跑出约9.2Gbps;双机跑DeepSeek写入约27 tokens/s,预填充700-750 tokens/s。
50%待验证GUFO 在 Strix Halo 上的预填充约 1400 TPS,输出约 40 TPS。
50%待验证在 Strix Halo 上使用 4-bit 量化(Q4K XL)时,42% 的工具调用失败,原因是模型在工具定义中多写了一个 `arguments` 参数。
50%待验证在 Strix Halo 上,模型冷启动预填充达到每秒几百 token,输出稳定在 40 多 TPS;在 CUDA 工作站上,预填充每秒数千 token,输出持续在 100 到 2100 TPS 之间。
50%待验证Strata 0.2.3 版本在 Strix Halo 上使工具调用速度提升约 19%。
50%待验证GPD Win Max 3掌机搭载AMD Ryzen AI Max+ 395或388(Strix Halo平台),配备9英寸屏幕、最高128GB LPDDR5内存、USB 4接口和最高4TB存储
50%待验证Strix Halo是AMD于2025年初推出的高性能移动平台,正式型号系列为Ryzen AI Max
50%待验证在掌机等TDP受限形态中,选择CPU核心较少但GPU规格完整的SKU可以让散热余量更多服务于图形渲染
50%待验证Unsloth 通过引入 Vulkan 后端替代传统 ROCm 路径,为 Strix Halo 与 Strix Point 等 APU/iGPU 带来约 20% 的性能提升,Strix Halo 平台提示词处理速度提升 23%,生成速度提升 8%
50%待验证Doug Ware 在两周内用搭载 128GB 内存的 Strix Halo 迷你主机和 NVIDIA CUDA 工作站实测了阿里开源模型 Quen 3.8 Flash Next(1250 亿参数的 MoE 模型,每 token 激活 60 亿参数)。
50%