Gemma
Gemma是Google发布的开源大型语言模型系列,基于与Gemini相同的研究和技术构建。该模型系列提供多种参数规模的版本,适用于文本生成、问答、代码辅助等自然语言处理任务。Gemma以轻量高效为设计目标,支持在消费级硬件上本地部署,开发者可免费获取模型权重并进行微调和二次开发。
核心事实
时间轴 (近 90 天)
Gemma是谷歌基于Gemini技术栈推出的开源轻量级模型家族,参数量覆盖从数亿到数十亿级别,设计目标是在单卡或边缘设备上完成推理。
Gemma Scope是专为Gemma模型系列发布的SAE集合,提供不同层和不同稀疏度的预训练编码器。
Gemma 的草稿模型采用多 token 预测(MTP)投机解码,共享基础模型的 KV 缓存,接受率比多数草稿模型高 40 到 60%,解码延迟降低 40%,能耗减少 30 到 40%。
过去的 Gemma 发布一直遵循「先 Gemini,后 Gemma」的循环
Gemma 系列上一次更新已经过去一段时间
Gemma 是 Google 发布的开源模型系列,26B 指约 260 亿参数,量化后仍需十几到二十几 GB 内存,本地推理的第一道门槛往往不是算力而是内存容量。
作者在 36GB 内存的 MacBook Pro 上运行 Gemma 4 的 26B 版本(MLX 版本)进行本地 AI 推理。
在实际任务中,云端模型(如 Claude 桌面版)在修复损坏的自动化、生成仪表盘等工作中表现更稳,本地模型则需要更多引导。
常见本地小模型方案包括 Meta 的 Llama 系列小版本、微软的 Phi 系列、Google 的 Gemma 小模型,以及通过 llama.cpp、Ollama 等运行时在本地加载。
Cuadre 是一个开源项目,使用本地运行的 Gemma 模型自动从巴拿马小票照片中提取信息并生成税务表格(CSV、汇总 Markdown 和待复核清单)。
还有 40 条时间轴事件
全部知识事实 (20)
Gemma是Google DeepMind基于Gemini模型技术开发的开源模型系列
90%已验证开放权重模型指参数权重文件向公众开放下载,可本地部署微调,但训练数据和完整源码不一定公开,区别于完全开源
80%已验证DiffusionGemma是将Google Gemma架构与扩散生成范式融合的实验性模型
80%已验证Ollama是一款开源的本地大模型运行框架,支持在个人电脑上一键部署各种开源大语言模型
80%已验证Gemma 是 Google 于 2024 年推出的一系列开放权重语言模型,名称源自拉丁语「gemma」(宝石),与 Gemini 同源但定位不同:Gemini 是 Google 面向云端部署的旗舰闭源模型,Gemma 则专注于在有限算力环境中运行。
75%已验证1750亿参数模型仅模型权重(BF16精度)就需350GB存储,Adam优化器需维护一阶矩和二阶矩两份状态,合计超过1TB
75%已验证开源权重指模型参数可以下载和本地执行,但训练代码、训练数据以及使用条款未必开放;Gemma采用自定义的Gemma使用条款。
65%已验证Ollama 是本地大模型运行工具,监听在 11434 端口,默认不设认证,提供包括 /api/pull、/api/create、/api/chat 等模型管理和推理的 REST API
65%已验证Gemma是Google推出的轻量级开源模型系列,强调在有限算力下的高效表现
65%已验证当前开源大模型领域形成多极竞争格局,包括Meta的Llama、阿里巴巴的Qwen、Mistral AI和DeepSeek
65%已验证Gemma是Google于2024年发布的轻量级开源语言模型家族,参数规模从2B到7B不等
65%已验证Meta的LLaMA系列、Google的Gemma、Mistral AI的Mistral/Mixtral、阿里的Qwen系列都在Transformers中获得支持
65%已验证Gemma系列模型采用SigLIP视觉编码器来处理图像输入
65%已验证Google DeepMind发布了Embedding Gemma 2,一个开放的多模态嵌入模型,参数量740M,将文字、图片、视频和音频映射到同一向量空间
70%已验证Gemma是Google DeepMind于2024年初发布的开源轻量级语言模型家族,通过知识蒸馏技术精炼而来
65%待验证可用于本地部署的模型从轻量级的Phi-3、Gemma到重量级的Llama 3、Qwen2.5都可以根据硬件条件自由切换
90%待验证Meta 的 LLaMA 系列、Mistral AI 的 Mistral/Mixtral、Google 的 Gemma 等开源模型都选择通过 Hugging Face 平台和 Transformers 格式进行发布
90%待验证微软Phi-3最小版本仅3.8B参数,Google Gemma有2B和7B两个规格
90%待验证小语言模型(SLM)通常指参数量在数亿到数十亿级别的模型,代表包括Microsoft的Phi系列和Google的Gemma系列
90%待验证微软的Phi系列小模型和Google的Gemma都大量使用了合成数据进行训练
85%