[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
产品
LMDeploy
LM Deploy
由InternLM团队开发的推理引擎,主打4-bit量化模型的性能优化,适合部署量化大模型
时间轴 (近 90 天)
10月30日
LM Deploy 由 InternLM 团队打造,主打 4-bit 量化模型的性能优化。
待验证
50%
全部知识事实 (1)
待验证
LM Deploy 由 InternLM 团队打造,主打 4-bit 量化模型的性能优化。
50%
来源文章
本地运行AI模型全指南:推理引擎与工具栈解析
10月30日