ASIC

现代AI数据中心通常采用CPU+GPU/TPU+DPU+专用加速器的异构架构

专用推理芯片（ASIC）通过精简电路设计、优化数据流架构，可在单位能耗下提供比通用GPU更高的推理吞吐量

谷歌的 TPU 是专为机器学习工作负载设计的定制化 ASIC 芯片，与通用 GPU 相比在矩阵运算吞吐量和能效比上具有优势

博通的核心业务之一是为超大规模客户定制ASIC，与通用GPU相比，定制芯片在特定工作负载下能显著降低单位算力成本，但前提是客户的AI业务规模足够大、工作负载足够稳定，否则沉没成本风险更高。

「Jalapeño」很可能是面向AI工作负载的专用加速器（ASIC），而非通用计算芯片

AI加速器（如GPU、专用ASIC）以大规模并行计算见长，生态上高度依赖软件栈（如CUDA）和开发者社区，形成较强的护城河。

许多专用推理芯片（如Groq的LPU、Cerebras的晶圆级芯片、以及各类ASIC）通过牺牲通用性换取更高的能效比和更低的单次调用成本。

ASIC芯片的软件适配更依赖厂商提供的编译器与运行时，开发者不能像写CUDA那样自由地控制硬件。

Trainium和Inferentia属于专用集成电路（ASIC）路线，与英伟达的通用GPU在设计哲学上不同：GPU依靠大量通用核心和成熟的编程模型获得灵活性，ASIC则通过固化数据流与矩阵运算单元换取能效和单位成本优势。

非GPU AI加速器通常指ASIC、FPGA或专为特定神经网络算子设计的定制芯片，而非像GPU那样通用的并行处理器。

GPU的优势在于生态成熟（CUDA）、支持多种精度与算子、可灵活适配从训练到推理的全场景；ASIC则针对特定负载固化电路，在目标场景下能效与成本更优，但灵活性较差。

Maia 300属于ASIC（专用集成电路）范畴，与英伟达GPU的通用可编程架构形成对照。

主流云厂商普遍采取“两条腿走路”：GPU用于前沿探索和通用训练，自研ASIC用于已稳定、规模化的工作负载。

ASIC是为特定算法或任务定制的集成电路，谷歌TPU是典型的AI训练ASIC，牺牲通用性换取在特定工作负载下数倍于GPU的能效比。

ASIC是为特定算法完全定制的芯片，能效与成本优势在量产时最明显，但一旦算法演进便面临淘汰风险。

Maia系列走ASIC式专用加速路线，与NVIDIA GPU的通用路线不同，牺牲部分通用性换取单位功耗下的推理效率。

ASIC与GPGPU两条技术路线存在分野：NVIDIA GPU优势在于通用性、全精度支持和CUDA生态，ASIC针对特定工作负载优化，能效比更好但灵活性差、迁移门槛高。

FPGA 验证可以在数小时内完成并随时修改，但性能和功耗与最终硅片相差悬殊；ASIC 流片周期长达数月、成本高达数百万美元

ASIC需要在设计阶段将冗余单元、内建自测试（BIST）电路和片上重映射逻辑固化进版图，流片后无法更改结构

解压与推理开销问题的解决路径包括设计隐式解压内核（矩阵乘法中动态展开因子）或依托专用硬件（如NPU、定制ASIC）原生支持因子化运算