[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
产品
疾风之狼
Anifer
由独立开发者用C++和CUDA编写的开源本地大模型推理引擎,专注于针对少数特定模型和硬件做极致性能优化,以极高推理速度为核心卖点
来源文章
Anifer开源推理引擎实测:单卡5090狂飙150 token/s
9月16日