Google TPU
Google自研的张量处理单元,采用脉动阵列架构,专为深度学习矩阵运算优化,主要通过Google Cloud平台以云服务形式提供,是英伟达GPU的主要替代算力之一
核心事实
时间轴 (近 90 天)
据报道,OpenAI 计划采购谷歌 TPU 芯片。
近年来专用AI芯片(如Google TPU、AWS Trainium)、晶圆级芯片以及基于RISC-V的加速器不断涌现。
TorchTPU 是一个面向 Google TPU 的原生 PyTorch 后端,目标是让模型开箱即用(out-of-the-box)地在 TPU 上执行。
AI ASIC 是为特定 AI 负载定制的专用集成电路,典型代表包括 Google TPU、AWS Inferentia/Trainium 以及大量初创公司的推理芯片。
NPU(神经处理单元)是专门为神经网络推理与训练任务设计的处理器,其架构通常包含大量乘加阵列(MAC阵列)、片上缓存和专用的数据调度单元。
Bonsai 2采用从Qwen3-27B架构出发以三值约束为目标的完整重新训练,而非对已有权重做后期量化(post-training quantization)
近年来出现专为AI推理设计的定制芯片,如Google TPU和AWS Inferentia
转向硬件无关架构后,国产AI芯片、TPU等后端只需对接 vLLM 自身的算子抽象层即可接入,适配成本理论上显著降低
统一的分发层可屏蔽 NVIDIA GPU、AMD ROCm、Intel GPU、Google TPU、Graphcore IPU 等不同硬件的编程模型差异
AMD的ROCm、Intel的oneAPI以及Google TPU等在尝试打破NVIDIA垄断,但软件生态成熟度仍有明显差距
还有 2 条时间轴事件
全部知识事实 (13)
据报道,OpenAI 计划采购谷歌 TPU 芯片。
65%部分验证NPU(神经处理单元)是专门为神经网络推理与训练任务设计的处理器,其架构通常包含大量乘加阵列(MAC阵列)、片上缓存和专用的数据调度单元。
65%待验证TorchTPU 是一个面向 Google TPU 的原生 PyTorch 后端,目标是让模型开箱即用(out-of-the-box)地在 TPU 上执行。
60%待验证Bonsai 2采用从Qwen3-27B架构出发以三值约束为目标的完整重新训练,而非对已有权重做后期量化(post-training quantization)
60%待验证近年来专用AI芯片(如Google TPU、AWS Trainium)、晶圆级芯片以及基于RISC-V的加速器不断涌现。
50%待验证AI ASIC 是为特定 AI 负载定制的专用集成电路,典型代表包括 Google TPU、AWS Inferentia/Trainium 以及大量初创公司的推理芯片。
50%待验证近年来出现专为AI推理设计的定制芯片,如Google TPU和AWS Inferentia
50%待验证转向硬件无关架构后,国产AI芯片、TPU等后端只需对接 vLLM 自身的算子抽象层即可接入,适配成本理论上显著降低
50%待验证统一的分发层可屏蔽 NVIDIA GPU、AMD ROCm、Intel GPU、Google TPU、Graphcore IPU 等不同硬件的编程模型差异
50%待验证AMD的ROCm、Intel的oneAPI以及Google TPU等在尝试打破NVIDIA垄断,但软件生态成熟度仍有明显差距
50%待验证Groq凭借其LPU推理芯片架构完成高估值融资,其创始人是Google TPU的核心架构师
50%待验证谷歌TPU自2015年开始内部使用,目前已迭代至第五代;AMD凭借MI300X系列GPU获得数据中心份额;亚马逊自研Trainium和Inferentia芯片;微软开发代号Maia的自研AI芯片
50%待验证PyTorch 用户使用 TPU 时需借助 torch_xla,而 TPU 主要通过 TensorFlow/JAX 生态接入
50%