产品AWS Neuron SDK
Neuron
AWS为Inferentia和Trainium芯片提供的软件开发工具包，包含编译器、运行时和库，支持主流框架模型的部署。
时间轴 (近 90 天)
10月19日
Deepgram 团队在移植过程中对 Nova-3 的自定义算子逐一验证了其在 Neuron 上的数值正确性和性能表现，并通过 Neuron 的自定义算子接口实现部分算子的回退。
待验证50%
10月19日
Deepgram 工程师发现音频特征提取和注意力计算是 Neuron 内核在语音模型上的主要性能热点。
待验证50%
10月12日
当硬件不支持原生低精度张量核心时，int4权重在矩阵乘前被解包并扩展到bf16或fp16，导致带宽和容量优势丧失，T4G的int4加宽到16位、Neuron的int4加宽到bf16均属此机制。
待验证50%
10月4日
《Neuron》上的一项研究显示脑内有足够葡萄糖时神经元对环境信息的调谐精度更高
待验证50%
全部知识事实 (4)
待验证
Deepgram 工程师发现音频特征提取和注意力计算是 Neuron 内核在语音模型上的主要性能热点。
50%待验证当硬件不支持原生低精度张量核心时，int4权重在矩阵乘前被解包并扩展到bf16或fp16，导致带宽和容量优势丧失，T4G的int4加宽到16位、Neuron的int4加宽到bf16均属此机制。
50%待验证《Neuron》上的一项研究显示脑内有足够葡萄糖时神经元对环境信息的调谐精度更高
50%待验证Deepgram 团队在移植过程中对 Nova-3 的自定义算子逐一验证了其在 Neuron 上的数值正确性和性能表现，并通过 Neuron 的自定义算子接口实现部分算子的回退。
50%