[控场AI]
产品LiteRT

LiteRT

Google 推出的统一设备端 AI 运行时,为移动与嵌入式设备提供跨框架(PyTorch、JAX、TensorFlow)的推理执行引擎

核心事实

时间轴 (近 90 天)

10月29日

LiteRT 路径将模型随应用打包,不共用设备上的共享模型,开发者需自行管理内存和功耗,但可获得完全控制权并支持微调模型。

待验证50%
10月17日

LiteRT-LM 是 Google 基于 LiteRT 构建的语言模型运行时,负责模型加载、KV 缓存管理、采样解码与流式输出编排。

待验证50%
10月17日

LiteRT 是 Google 于 2024 年推出的统一设备端 AI 运行时,取代了 TensorFlow Lite 和 TensorFlow Lite GPU Delegate 等组件,目标是为移动与嵌入式设备提供跨框架(含 PyTorch、JAX、TensorFlow)的推理执行引擎。

待验证50%

全部知识事实 (4)

来源文章