概念Tiny Machine Learning
TinyML
边缘AI的极端形态,专注于在RAM仅有数十KB、算力极为有限的微控制器(MCU)上运行机器学习推理,代表框架包括TensorFlow Lite Micro和Edge Impulse
时间轴 (近 90 天)
11月4日
拆分推理通过将TinyML模型分段部署到多个IoT设备上,解决单个设备硬件资源不足的问题。
待验证50%
11月4日
TinyML设备受限于SRAM(常仅数百KB)和闪存(数MB),单个设备难以承载完整模型。
待验证50%
11月4日
副本本身会占用本就紧张的设备存储资源,在极端资源受限的TinyML设备上,能否放得下副本、放几个副本可能是比延迟优化更前置的问题。
待验证50%
10月26日
TinyML将模型压缩到KB级内存和毫瓦级功耗的MCU上运行。
待验证50%
8月14日
TinyML模型几乎都是单一任务、固定功能的,通常只有几十KB到几MB大小,而Needle定位为具备通用能力的基础模型
待验证50%
全部知识事实 (6)
待验证
拆分推理通过将TinyML模型分段部署到多个IoT设备上,解决单个设备硬件资源不足的问题。
50%待验证TinyML设备受限于SRAM(常仅数百KB)和闪存(数MB),单个设备难以承载完整模型。
50%待验证副本本身会占用本就紧张的设备存储资源,在极端资源受限的TinyML设备上,能否放得下副本、放几个副本可能是比延迟优化更前置的问题。
50%待验证TinyML将模型压缩到KB级内存和毫瓦级功耗的MCU上运行。
50%待验证TinyML模型几乎都是单一任务、固定功能的,通常只有几十KB到几MB大小,而Needle定位为具备通用能力的基础模型
50%待验证典型微控制器的RAM仅有数十KB,主频不超过数百MHz
50%