产品LiteRT
LiteRT
Google 推出的统一设备端 AI 运行时,为移动与嵌入式设备提供跨框架(PyTorch、JAX、TensorFlow)的推理执行引擎
核心事实
时间轴 (近 90 天)
10月29日
LiteRT 路径将模型随应用打包,不共用设备上的共享模型,开发者需自行管理内存和功耗,但可获得完全控制权并支持微调模型。
待验证50%
10月17日
LiteRT-LM 是 Google 基于 LiteRT 构建的语言模型运行时,负责模型加载、KV 缓存管理、采样解码与流式输出编排。
待验证50%
10月17日
LiteRT 是 Google 于 2024 年推出的统一设备端 AI 运行时,取代了 TensorFlow Lite 和 TensorFlow Lite GPU Delegate 等组件,目标是为移动与嵌入式设备提供跨框架(含 PyTorch、JAX、TensorFlow)的推理执行引擎。
待验证50%
全部知识事实 (4)
已验证
Google开发了TensorFlow Lite和LiteRT等轻量级推理框架用于移动设备端AI推理
65%待验证LiteRT 路径将模型随应用打包,不共用设备上的共享模型,开发者需自行管理内存和功耗,但可获得完全控制权并支持微调模型。
50%待验证LiteRT-LM 是 Google 基于 LiteRT 构建的语言模型运行时,负责模型加载、KV 缓存管理、采样解码与流式输出编排。
50%待验证LiteRT 是 Google 于 2024 年推出的统一设备端 AI 运行时,取代了 TensorFlow Lite 和 TensorFlow Lite GPU Delegate 等组件,目标是为移动与嵌入式设备提供跨框架(含 PyTorch、JAX、TensorFlow)的推理执行引擎。
50%