Gemini Nano
Gemini Nano是Google开发的轻量级端侧AI模型,属于Gemini系列模型中面向资源受限场景的版本。该模型专为在移动设备和嵌入式硬件上本地运行而优化,无需依赖云端即可执行自然语言理解、文本摘要、智能回复等推理任务,具有低延迟、保护用户隐私及离线可用等特点,主要部署于Android设备上的应用功能中。
核心事实
时间轴 (近 90 天)
Google Cloud团队在Goodwood速度节上实现了赛车座舱内的端侧AI Agent,使用Android手机(Pixel 10 Pro)和Gemini Nano。
Gemini Nano需要提示工程打磨而非即插即用,包括静态指令与动态指令的分工、工具定义与调用、评估测试等。
ML Kit GenAI语音识别API处于alpha阶段,基础模式支持API level 31及以上的Android设备,高级模式由Gemini Nano驱动,在Pixel 10及以上设备提供更好的质量和语言覆盖。
Adobe Photoshop已使用Prompt API自动重命名未整理的图层,并为图像生成说明文字和话题标签。
GenAI API借助Gemini Nano实现文本摘要、图像描述等能力,推理完全在设备上完成。
投机解码通过草稿模型快速生成多个token再由Gemini Nano验证,内部用例平均实现2倍加速。
前缀缓存可节省60%的token输入,对应60%的速度提升。
在函数调用时使用思考模式可在100分制下带来13个百分点的准确率提升。
Gemini Nano采用2位量化替代4位量化,使流经模型的数据量减半。
Gemini Nano模型前20层共享KV缓存,支持16K token的上下文长度。
还有 15 条时间轴事件
全部知识事实 (20)
Gemini模型家族包含Ultra、Pro和Nano三种规格,其中Gemini Nano专为端侧设备优化,可直接在手机芯片上运行无需联网
90%已验证Google以Gemini Ultra/Pro/Nano分层覆盖不同需求
80%已验证Gemini Nano是Google专为移动设备优化的轻量级大语言模型,参数量经过大幅压缩,可以直接在手机芯片上运行
80%已验证Gemini系列分为Ultra、Pro、Flash、Nano等多个规格,分别对应不同算力需求和部署场景
80%已验证Gemini Nano已经在Pixel 8系列手机上实现了端侧部署,支持离线文本摘要和智能回复等功能
75%待验证Google在Chrome浏览器中内置了Gemini Nano模型,提供翻译、摘要等原生AI功能
85%待验证Google在Chrome 126版本中开始实验性地集成Gemini Nano模型
80%待验证混合推理功能与Google在Android上推进的on-device AI战略(如Gemini Nano)一脉相承
60%待验证Gemini Nano能够在无网络环境下在设备端运行,这是ChatGPT等纯云端服务难以复制的差异化能力
60%待验证Gemini Nano需要提示工程打磨而非即插即用,包括静态指令与动态指令的分工、工具定义与调用、评估测试等。
50%待验证ML Kit GenAI语音识别API处于alpha阶段,基础模式支持API level 31及以上的Android设备,高级模式由Gemini Nano驱动,在Pixel 10及以上设备提供更好的质量和语言覆盖。
50%待验证GenAI API借助Gemini Nano实现文本摘要、图像描述等能力,推理完全在设备上完成。
50%待验证Adobe Photoshop已使用Prompt API自动重命名未整理的图层,并为图像生成说明文字和话题标签。
50%待验证2B参数的Gemini Nano模型在MMLU Pro基准上几乎与去年的27B模型持平。
50%待验证在函数调用时使用思考模式可在100分制下带来13个百分点的准确率提升。
50%待验证Gemini Nano采用2位量化替代4位量化,使流经模型的数据量减半。
50%待验证Gemini Nano模型前20层共享KV缓存,支持16K token的上下文长度。
50%待验证前缀缓存可节省60%的token输入,对应60%的速度提升。
50%待验证投机解码通过草稿模型快速生成多个token再由Gemini Nano验证,内部用例平均实现2倍加速。
50%待验证2B参数模型在研究生科学推理和智能体工具使用基准上表现优于去年的27B模型。
50%