产品CTranslate2
CTranslate2
一个用于高效 Transformer 模型推理的 C++ 库,支持多种硬件加速和量化
时间轴 (近 90 天)
8月26日
faster-whisper基于CTranslate2优化推理引擎,在保持相同准确率的同时将推理速度提升4倍、内存占用降低3倍
待验证50%
一个用于高效 Transformer 模型推理的 C++ 库,支持多种硬件加速和量化
faster-whisper基于CTranslate2优化推理引擎,在保持相同准确率的同时将推理速度提升4倍、内存占用降低3倍