LiteRT-LM
Google 基于 LiteRT 构建的端侧大语言模型运行时，负责模型加载、KV 缓存管理、采样解码与流式输出编排
时间轴 (近 90 天)
LiteRT-LM 的 sendMessageAsync(text) 返回 Flow<Message>，用于流式接收回复。
LiteRT-LM 文档指出 engine.initialize() 可能耗时很长（最多 10 秒），因此必须在后台线程或协程上运行。
在 LiteRT-LM 中，Engine 应加载一次并保留，每个聊天会话创建新的 Conversation。
Google MediaPipe 的 LLM Inference API（Android、iOS 和 Web）已进入仅维护模式，新功能和优化将集中在 LiteRT-LM 上。
LiteRT-LM 是 Google 基于 LiteRT 构建的语言模型运行时，负责模型加载、KV 缓存管理、采样解码与流式输出编排。
截至 2026 年 10 月，Google Maven 上 LiteRT-LM 的当前版本是 0.18.0，尚未到 1.0。
.litertlm 是 LiteRT-LM 自定义的容器格式，将权重、分词器、模型元数据和对话模板打包在同一文件中。
LiteRT-LM 是 Google 面向端侧语言模型推理的运行时，LiteRT 前身为 TensorFlow Lite，Google 于 2024 年将其更名并扩展适用范围
Skim Recap 通过 LiteRT-LM 和 WebGPU 在浏览器端执行模型推理，实现完全本地运行，无需账户、无需托管 LLM API、数据不出本地
全部知识事实 (8)
LiteRT-LM 的 sendMessageAsync(text) 返回 Flow<Message>，用于流式接收回复。
50%待验证LiteRT-LM 文档指出 engine.initialize() 可能耗时很长（最多 10 秒），因此必须在后台线程或协程上运行。
50%待验证在 LiteRT-LM 中，Engine 应加载一次并保留，每个聊天会话创建新的 Conversation。
50%待验证Google MediaPipe 的 LLM Inference API（Android、iOS 和 Web）已进入仅维护模式，新功能和优化将集中在 LiteRT-LM 上。
50%待验证LiteRT-LM 是 Google 基于 LiteRT 构建的语言模型运行时，负责模型加载、KV 缓存管理、采样解码与流式输出编排。
50%待验证.litertlm 是 LiteRT-LM 自定义的容器格式，将权重、分词器、模型元数据和对话模板打包在同一文件中。
50%待验证LiteRT-LM 是 Google 面向端侧语言模型推理的运行时，LiteRT 前身为 TensorFlow Lite，Google 于 2024 年将其更名并扩展适用范围
50%待验证Skim Recap 通过 LiteRT-LM 和 WebGPU 在浏览器端执行模型推理，实现完全本地运行，无需账户、无需托管 LLM API、数据不出本地
50%