TPU
TPU(Tensor Processing Unit,张量处理单元)是Google专为机器学习工作负载设计的定制化专用集成电路(ASIC)。与通用GPU相比,TPU针对张量运算进行了深度优化,能够高效加速神经网络的训练与推理任务。TPU主要部署于Google数据中心,支撑TensorFlow等深度学习框架,并通过Google Cloud对外提供算力服务,广泛应用于图像识别、自然语言处理等AI领域。
核心事实
时间轴 (近 90 天)
谷歌太阳捕手计划把4块TPU送入太空轨道,本周官方正式确认芯片在极端太空环境中成功开机、运行提示词计算并将结果传回地球。
谷歌将AI搬上太空,卫星上的TPU芯片在轨道中成功运行模型并写下第一首诗。
Google 宣布其原型卫星上的 TPU 成功回传第一个 AI 回复;卫星搭载 4 颗自研 TPU,最高 1000 瓦电力,受供电散热限制 TPU 一次连续工作约 20 分钟。
与通用GPU相比,TPU在推理任务上通常具有更高的能效比。
该卫星搭载的TPU正在运行Google DeepMind的Gemma 4模型。
在轨TPU完成了端到端的模型推理,输出是可验证的生成内容。
自研芯片路线(如谷歌TPU、亚马逊Trainium)在特定场景可行,但通用性与生态成熟度与英伟达仍有差距。
据报道,OpenAI 计划采购谷歌 TPU 芯片。
为支撑 AI 基础设施(数据中心、TPU 与 GPU 采购、电力与冷却),Alphabet 近年资本支出大幅攀升。
MAC 阵列(乘加阵列)是 NPU/TPU 的核心计算单元,其规模(如 64×64)决定了单周期的乘加吞吐上限,模型每层的通道数和空间尺寸需与之匹配才能打满利用率。
还有 40 条时间轴事件
全部知识事实 (20)
谷歌的TPU自2016年起已迭代至第五代(TPU v5)
90%已验证TPU(Tensor Processing Unit)是Google自2015年起自主研发的AI专用芯片
85%已验证多家大型科技公司在构建定制AI芯片团队:Google迭代TPU,Amazon开发Trainium和Inferentia,Microsoft自研Maia芯片,Meta推进MTIA项目
80%已验证谷歌自研张量处理器(TPU)是专为机器学习设计的定制ASIC芯片,自2016年第一代起已发展至第六代Trillium
80%已验证谷歌早在2016年就推出了TPU(张量处理单元),目前已迭代至第五代
80%已验证通用矩阵乘法(GEMM)是深度学习推理中最基础也最计算密集的操作,英伟达Tensor Core和谷歌TPU脉动阵列都是针对GEMM的特化优化
75%已验证现代AI数据中心通常采用CPU+GPU/TPU+DPU+专用加速器的异构架构
75%已验证Google早在2016年就推出专为深度学习设计的TPU芯片
75%已验证TPU 采用脉动阵列(Systolic Array)架构,专门优化矩阵乘法运算,由 Google 于 2016 年首次公开
70%已验证TPU是Google专为神经网络矩阵运算设计的专用芯片,相较通用GPU在大规模矩阵乘法时具有更高能效比
70%已验证TPU是Google于2016年公开的专用集成电路(ASIC),专为加速神经网络的矩阵运算而设计
65%已验证谷歌的 TPU 是专为机器学习工作负载设计的定制化 ASIC 芯片,与通用 GPU 相比在矩阵运算吞吐量和能效比上具有优势
65%已验证谷歌通过自研TPU、亚马逊通过Trainium和Inferentia芯片走上自研算力路径
65%已验证谷歌拥有自研TPU(张量处理单元)基础设施
65%待验证TPU的成功开启了AI专用芯片的行业浪潮,此后亚马逊推出了Trainium/Inferentia,微软开发了Maia
90%待验证Google通过JAX框架和XLA编译器构建自己的软件生态,使开发者能够在TPU上运行模型
90%待验证推测解码、模型蒸馏、KV Cache优化等推理优化技术的持续进步正在使单位推理成本快速下降
85%待验证TPU(Tensor Processing Unit)将深度神经网络推理性能提升了30-80倍(相比当时的CPU和GPU),同时将延迟降低了15-30倍
85%待验证TPU采用脉动阵列(Systolic Array)架构,在特定AI工作负载上具有更高的能效比
85%待验证截至2025年,TPU已迭代至第六代(Trillium)
85%