产品TensorRT RTX
TensorRT RTX
NVIDIA针对RTX系列消费级GPU优化的本地AI推理引擎,继承TensorRT的算子融合、精度校准、内核自动调优等核心能力,支持C++开发,适用于桌面端本地AI应用部署
时间轴 (近 90 天)
10月1日
TensorRT RTX是NVIDIA为RTX系列GPU优化的推理引擎分支,继承了TensorRT的核心优化能力并针对消费级RTX显卡硬件特性做了适配
待验证50%
10月1日
TensorRT RTX的典型工作流为:训练框架导出ONNX,TensorRT解析并优化计算图,生成针对目标GPU的序列化引擎文件(.engine/.plan)
待验证50%