AWS Neuron SDK
亚马逊AWS提供的软件开发套件，用于将深度学习模型编译并调度到Trainium、Inferentia等AWS自研AI加速芯片上执行，支持PyTorch等主流框架
时间轴 (近 90 天)
亚马逊的Trainium和Inferentia是AWS自研的AI加速芯片，Inferentia面向推理，Trainium面向训练，均通过AWS Neuron SDK接入主流框架。
AWS Neuron 是 AWS 为 Inferentia 和 Trainium 自研推理加速芯片提供的 SDK 与运行时栈，包含 neuronx-cc 编译器、运行时库及 PyTorch/TensorFlow 集成层，模型需先编译成 NEFF 格式才能执行。
使用 Trainium 和 Inferentia 芯片需要通过 AWS Neuron SDK 对模型进行编译适配，存在一定迁移成本
Torch Neuron是AWS Neuron SDK中的PyTorch组件，是亚马逊为其自研AI芯片（Trainium和Inferentia系列）提供的编译与运行时框架
Trainium2通过AWS Neuron SDK与PyTorch集成，但因其指令集与CUDA生态存在根本差异，迁移现有训练代码通常需要适配工作
Trainium通过NeuronCore架构专门针对Transformer类大模型的矩阵运算进行优化，配套的AWS Neuron SDK负责将模型编译并调度到芯片上执行
全部知识事实 (6)
亚马逊的Trainium和Inferentia是AWS自研的AI加速芯片，Inferentia面向推理，Trainium面向训练，均通过AWS Neuron SDK接入主流框架。
50%待验证AWS Neuron 是 AWS 为 Inferentia 和 Trainium 自研推理加速芯片提供的 SDK 与运行时栈，包含 neuronx-cc 编译器、运行时库及 PyTorch/TensorFlow 集成层，模型需先编译成 NEFF 格式才能执行。
50%待验证使用 Trainium 和 Inferentia 芯片需要通过 AWS Neuron SDK 对模型进行编译适配，存在一定迁移成本
50%待验证Torch Neuron是AWS Neuron SDK中的PyTorch组件，是亚马逊为其自研AI芯片（Trainium和Inferentia系列）提供的编译与运行时框架
50%待验证Trainium2通过AWS Neuron SDK与PyTorch集成，但因其指令集与CUDA生态存在根本差异，迁移现有训练代码通常需要适配工作
50%待验证Trainium通过NeuronCore架构专门针对Transformer类大模型的矩阵运算进行优化，配套的AWS Neuron SDK负责将模型编译并调度到芯片上执行
50%