Inferentia
亚马逊AWS推出的自研AI推理芯片，针对云上推理工作负载定制设计，声称相比同类GPU实例可降低最高70%的推理成本
核心事实
时间轴 (近 90 天)
Trainium和Inferentia在AWS资本支出中占比提升，长期看有助于改善单位算力成本结构，但短期内仍难以完全摆脱对英伟达的采购依赖。
Trainium是亚马逊为AI模型训练设计的自研芯片，Inferentia则面向推理场景。
亚马逊的Trainium和Inferentia是AWS自研的AI加速芯片，Inferentia面向推理，Trainium面向训练，均通过AWS Neuron SDK接入主流框架。
谷歌和亚马逊提供PyTorch迁移工具的战略意图是削弱CUDA的锁定效应，将AI开发者引向自家加速器（TPU、Trainium/Inferentia）。
与通用GPU相比，ASIC（如TPU、Trainium、Inferentia）在特定负载上能提供更优的能效比和单位成本，但软件生态成熟度相对不足。
Trainium面向训练负载，强调高吞吐与成本效率；Inferentia面向推理负载，针对低延迟、高并发场景优化。
Trainium和Inferentia属于专用集成电路（ASIC）路线，与英伟达的通用GPU在设计哲学上不同：GPU依靠大量通用核心和成熟的编程模型获得灵活性，ASIC则通过固化数据流与矩阵运算单元换取能效和单位成本优势。
AWS Neuron 是 AWS 为 Inferentia 和 Trainium 自研推理加速芯片提供的 SDK 与运行时栈，包含 neuronx-cc 编译器、运行时库及 PyTorch/TensorFlow 集成层，模型需先编译成 NEFF 格式才能执行。
云厂商自研AI芯片的做法最早由谷歌TPU在2015年前后开启，其后亚马逊推出Trainium/Inferentia，Meta、字节跳动等也陆续布局。
亚马逊有Trainium和Inferentia，谷歌有TPU，微软的Maia已迭代到第三代。
还有 12 条时间轴事件
全部知识事实 (20)
多家大型科技公司在构建定制AI芯片团队：Google迭代TPU，Amazon开发Trainium和Inferentia，Microsoft自研Maia芯片，Meta推进MTIA项目
80%已验证Amazon已推出Trainium（训练）和Inferentia（推理）两条AI芯片产品线
75%已验证亚马逊AWS推出了面向训练的Trainium和面向推理的Inferentia两条产品线
70%待验证TPU的成功开启了AI专用芯片的行业浪潮，此后亚马逊推出了Trainium/Inferentia，微软开发了Maia
90%待验证推测解码、模型蒸馏、KV Cache优化等推理优化技术的持续进步正在使单位推理成本快速下降
85%待验证Trainium和Inferentia在AWS资本支出中占比提升，长期看有助于改善单位算力成本结构，但短期内仍难以完全摆脱对英伟达的采购依赖。
50%待验证Trainium是亚马逊为AI模型训练设计的自研芯片，Inferentia则面向推理场景。
50%待验证与通用GPU相比，ASIC（如TPU、Trainium、Inferentia）在特定负载上能提供更优的能效比和单位成本，但软件生态成熟度相对不足。
50%待验证谷歌和亚马逊提供PyTorch迁移工具的战略意图是削弱CUDA的锁定效应，将AI开发者引向自家加速器（TPU、Trainium/Inferentia）。
50%待验证亚马逊的Trainium和Inferentia是AWS自研的AI加速芯片，Inferentia面向推理，Trainium面向训练，均通过AWS Neuron SDK接入主流框架。
50%待验证Trainium和Inferentia属于专用集成电路（ASIC）路线，与英伟达的通用GPU在设计哲学上不同：GPU依靠大量通用核心和成熟的编程模型获得灵活性，ASIC则通过固化数据流与矩阵运算单元换取能效和单位成本优势。
50%待验证Trainium面向训练负载，强调高吞吐与成本效率；Inferentia面向推理负载，针对低延迟、高并发场景优化。
50%待验证AWS Neuron 是 AWS 为 Inferentia 和 Trainium 自研推理加速芯片提供的 SDK 与运行时栈，包含 neuronx-cc 编译器、运行时库及 PyTorch/TensorFlow 集成层，模型需先编译成 NEFF 格式才能执行。
50%待验证云厂商自研AI芯片的做法最早由谷歌TPU在2015年前后开启，其后亚马逊推出Trainium/Inferentia，Meta、字节跳动等也陆续布局。
50%待验证亚马逊有Trainium和Inferentia，谷歌有TPU，微软的Maia已迭代到第三代。
50%待验证Meta的MTIA、亚马逊的Trainium/Inferentia以及特斯拉的Dojo都是巨头针对自身工作负载进行硅级定制的自研芯片案例
50%待验证AWS 提供搭载 NVIDIA GPU 的 EC2 实例，以及自研的 Trainium（训练）和 Inferentia（推理）芯片
50%待验证使用 Trainium 和 Inferentia 芯片需要通过 AWS Neuron SDK 对模型进行编译适配，存在一定迁移成本
50%待验证推理侧对可用性要求较高，更适合使用预留实例（Reserved Instances）或 Savings Plans 锁定长期折扣，或借助 Inferentia 专用芯片降低单次推理成本
50%待验证Trainium 实例为 trn1 系列，主要面向大规模预训练和微调；Inferentia 实例为 inf2 系列，侧重于高并发、低延迟的在线推理
50%