ROCm
AMD推出的开源GPU计算平台，是NVIDIA CUDA生态的开源替代方案，支持主流AI框架，面向大模型训练、推理及AI Agent等场景
核心事实
时间轴 (近 90 天)
该用户硬件配置为 AMD 6700 XT 12GB 显卡、i5-13600K 处理器、32GB 6400 MT/s 内存，Ollama 报告显卡已被 ROCm 识别并支持。
将2^31判断与gfx950架构绑定，说明该问题可能与该架构的特定指令或AITER针对它生成的kernel实现有关，而非所有ROCm设备普遍存在。
AITER是AMD面向ROCm平台推出的算子调优组件，针对特定硬件架构预编译或自动搜索高性能kernel配置。
开源替代方案（如ROCm、OneAPI）和国产GPU软件生态常被视作打破供应商锁定的关键路径。
由于CUDA与英伟达硬件深度绑定，且积累了十余年的生态惯性，开发者迁移到其他平台需要重写大量代码，这形成了极高的转换成本。
vLLM 的 PagedAttention 内核深度绑定 NVIDIA CUDA 和 AMD ROCm，在 Apple Silicon 上仅有实验性支持。
对采购方而言，每美元token数接近翻倍的差距足以改变TCO测算；对开发者而言，ROCm与vLLM的组合开始具备生产可用性。
此次性能提升主要归功于vLLM层面的调度与内存管理优化、针对AMD架构定制的kernel实现以及硬件层面的细节调优三类工作。
在PS5上，Llama.cpp大概率以CPU推理为主，因为PS5的GPU驱动、固件与API均为索尼私有，未开放通用计算接口，ROCm在游戏主机环境中几乎不可用。
TokenSpeed 需要 NVIDIA GPU 主机（nightly wheel 需要 CUDA 13）或搭载 ROCm 7.2 的 AMD 主机，Python 3.11 到 3.13。
还有 40 条时间轴事件
全部知识事实 (20)
ROCm是AMD面向高性能计算和AI工作负载的开源软件平台，包含HIP编程接口，允许CUDA代码以较低成本移植到AMD GPU
90%已验证ROCm（Radeon Open Compute）是AMD对抗NVIDIA CUDA生态的核心开源GPU计算平台
75%已验证HIP是AMD推出的对标CUDA的方案，语法与CUDA高度相似，旨在实现GPU代码的跨平台可移植性
75%已验证AMD的ROCm和Intel的oneAPI在生态完整度、社区支持和性能调优工具方面与CUDA仍存在显著差距
75%已验证llama.cpp支持NVIDIA GPU通过CUDA、AMD GPU通过ROCm、Apple Silicon通过Metal GPU加速，也支持纯CPU推理
70%已验证ROCm是AMD于2016年推出的开源GPU计算平台，当前ROCm 6.x版本已对PyTorch、TensorFlow提供官方支持
65%已验证AMD的ROCm平台自2016年启动，提供HIP作为CUDA的兼容层，PyTorch官方已提供ROCm预编译包
65%已验证ROCm的核心组件HIP提供与CUDA高度相似的API，使CUDA代码可通过hipify工具转换后在AMD GPU上运行，ROCm版PyTorch复用torch.cuda命名空间
65%待验证AMD显卡可通过ROCm或DirectML方案运行Stable Diffusion，但兼容性和性能不如NVIDIA
85%待验证新版本新增了包含Unsloth Studio和JupyterLab的AMD ROCm Docker镜像，且ROCm镜像可通过WSL2的DXG桥接访问GPU
70%待验证当 ROCm 版本无法运行时，系统会回退到 Vulkan 的 sd.cpp 构建
70%待验证vLLM支持AMD ROCm平台，并在持续完善该支持
70%待验证AMD 安装会在 Windows 与 Linux 上自动选择最佳构建版本，并在更多 GPU 上启用 BF16
70%待验证Simultaneous support for Metal, CUDA, and ROCm is uncommon among open-source inference projects
70%待验证SGLang 的开源属性使其能够比 NVIDIA 主导的 TensorRT-LLM 更快速地集成 AMD ROCm 生态的新特性
70%待验证ds4 is written in pure C with native support for Metal, CUDA, and ROCm backends
60%待验证llama.cpp 于 2023 年初以仅用 CPU 运行 LLaMA 模型，随后支持 Metal、CUDA、ROCm 等硬件加速后端
60%待验证该用户硬件配置为 AMD 6700 XT 12GB 显卡、i5-13600K 处理器、32GB 6400 MT/s 内存，Ollama 报告显卡已被 ROCm 识别并支持。
50%待验证将2^31判断与gfx950架构绑定，说明该问题可能与该架构的特定指令或AITER针对它生成的kernel实现有关，而非所有ROCm设备普遍存在。
50%待验证AITER是AMD面向ROCm平台推出的算子调优组件，针对特定硬件架构预编译或自动搜索高性能kernel配置。
50%