Redwood
一款面向单批次低延迟推理场景的专用AI加速器,由AI系统自动化设计生成,采用三星8nm工艺,支持FPGA变体,可运行数十亿参数级别的大语言模型
时间轴 (近 90 天)
这套AI全自动流程的产物是一款名为Redwood的AI加速器,专门针对单批次低延迟推理场景进行优化
Redwood在三星8nm工艺上的投影数据显示,相较实测的Jetson Orin Nano推理吞吐量达到1.75倍
Redwood相较Jetson Orin Nano功耗降低1.9倍,每瓦性能提升3.4倍(基于投影数据)
Redwood的FPGA变体能够运行数十亿参数级别的Llama和Qwen模型
该系统的每个功能模块通过商用EDA工具、专有形式化验证引擎和硬件在环验证三种手段达到95%的验证覆盖率
一次规格变更从修改到重新验证再到重新部署上硬件,只需要48小时
Redwood的性能数据基于投影(projected)推算而非流片实测
覆盖率有代码覆盖率、功能覆盖率、分支覆盖率等多种口径,不同定义下含金量差异巨大,该研究95%覆盖率的具体定义未明确
若48小时闭环迭代真实可靠,将使芯片开发接近软件领域的快速迭代体验
全部知识事实 (9)
这套AI全自动流程的产物是一款名为Redwood的AI加速器,专门针对单批次低延迟推理场景进行优化
50%待验证Redwood在三星8nm工艺上的投影数据显示,相较实测的Jetson Orin Nano推理吞吐量达到1.75倍
50%待验证Redwood相较Jetson Orin Nano功耗降低1.9倍,每瓦性能提升3.4倍(基于投影数据)
50%待验证Redwood的FPGA变体能够运行数十亿参数级别的Llama和Qwen模型
50%待验证该系统的每个功能模块通过商用EDA工具、专有形式化验证引擎和硬件在环验证三种手段达到95%的验证覆盖率
50%待验证一次规格变更从修改到重新验证再到重新部署上硬件,只需要48小时
50%待验证Redwood的性能数据基于投影(projected)推算而非流片实测
50%待验证覆盖率有代码覆盖率、功能覆盖率、分支覆盖率等多种口径,不同定义下含金量差异巨大,该研究95%覆盖率的具体定义未明确
50%待验证若48小时闭环迭代真实可靠,将使芯片开发接近软件领域的快速迭代体验
50%