Gemma 4 E4B

Gemma 4 E2B 在推理、编码和智能体任务上全面超越 Gemma 3 27B；E4B 在每一项基准上都稳定胜过 Gemma 3 27B。

Nemotron 3.5 Bolt E4B 4GB 是在 Gemma 4 E4B 基础上做后训练得到的衍生模型，并非从零训练的新架构。

Perplexity 目前提供三个本地编排模型：Gemma 4 E4B（4-bit量化，6.6GB，需16GB内存）、Qwen 3.5 35B（需32GB内存）和 Perplexity 自研的19GB模型（需32GB内存）。

NVIDIA 基于 Gemma 4 E4B 微调出 Nemotron 3.5 Bolt E4B，在 21 项 NVIDIA 测试中有 16 项超过原版 Gemma 4 E4B。

Gemma 4 E2B 与 E4B（含 Nemotron 版本）的 DPO 训练此前会崩溃的问题已修复。

Nemotron 3.5 Bolt E4B 在 Tau2-Bench 上得分为 63.2，原版 Gemma 4 E4B 得分为 38.7。

Pricor 的处理链路为：先用规则分析器找到表头行、行类型、列类型和数字格式，再由微调过的多语言模型 Laya 把每一列归入封闭的角色集合，Laya 不确定的列交给通过 Ollama 本地运行的 Gemma 4 E4B，仍不确定的部分交给用户回答。

作者在同一台机器上用 76 个合成病例对比了三个 Gemma 变体：Gemma 4 E4B 达到 97%，Gemma 3 4B 为 78% 并出现 5 次误报，Gemma 4 12B 为 80% 且有 32 次调用超时。

打开核显加速后，整盘棋复盘约需 90 秒，其中 Stockfish 分析约 20 秒，每条点评约 12 秒。

在 Intel Core Ultra 5、16GB 内存、无独显的笔记本上，设置 OLLAMA_IGPU_ENABLE=1 后，Gemma 4 E4B 的 prompt 处理速度从约 31 tokens/s 提升到约 315 tokens/s。

该本地语音助手系统完全自托管，语音检测和识别跑在CPU上，LLM（Gemma 4 E4B，QAT q4_0量化，基于llama.cpp）负责生成回答，TTS（Qwen3-TTS 1.7B）逐句合成语音。

通过去重Q/K/V权重节省488 MiB显存，将文本嵌入表保留在CPU节省594 MiB，使得Gemma 4 E4B与Qwen3-TTS 1.7B两个模型能同时加载，显卡显示8,188 MiB中占用7,448 MiB。

DecisionShield 使用 Gemma 4 E4B 模型进行语义推理和分类，Gemma 生成结构化 JSON，经 Pydantic 验证后交给 Python 决策引擎计算评分。

DecisionShield 采用前后端分离架构，前端使用 React+Vite+Tailwind CSS+Recharts+Framer Motion，后端使用 Python+FastAPI+Pydantic+Uvicorn，AI 层使用 Gemma 4 E4B 的 4-bit 量化本地推理，MVP 阶段使用内存存储。

在作者手工核验的 40 张美因茨照片中，识别座位时 Gemma 4 E4B 找到 2 个真实座位误报 1 个，而地图（相机15米内有长椅为准）只找到 1 个误报 4 个

开发中首次加载 E4B 时模型服务器崩溃两次（报错 0xc0000409），因为模型只能半数装进空闲显存，第一张照片耗时 77 秒后才稳定在 1 秒左右

推理速度方面 Gemma 4 E4B 每张约 0.9 秒、E2B 约 0.6 秒，165 张照片三分钟内跑完

在识别台阶和遮荫方面，Gemma 表现不佳：E4B 在 16 张无台阶照片误报有台阶，在 26 张无遮荫照片误报有遮荫，因此路线规划器只采用座位这一项答案

Gemma 4 E4B 通过 Ollama 在作者的 RTX 5060 笔记本上本地运行，逐张分析照片并以固定 JSON 格式回答座位相关信息，格式不符的照片直接记为失败

VicOne LAB R7 在使用 Gemma 4 E4B 的机器狗测试中，海报上的文字被当作指令，改变了机器狗的运动。