#边缘AI

共 6 篇相关文章

Liquid AI 发布实时推理引擎 RIPL，单张 B200 上 LFM2.5-1.2B 的 p95 延迟比 Qwen3.5-0.8B 在 vLLM 上低 14.4 至 28.4 倍。本文分析专用推理引擎与小模型实时落地的技术逻辑。

Decide Live 用微调的 EmbeddingGemma 2 通过 transformers.js 和 WebGPU 在浏览器端实现零 Token 多模态分类决策，数据不上传、离线可用、每次调用免费，展示了端侧边缘 AI 的实用范式。

MicroCast 是一款基于 Prior Labs TabPFN 的开源离线山地天气预警工具，无需网络即可零样本预测风暴风险，并通过音频播报实现免手持徒步安全提醒，展示了边缘 AI 与开放权重模型的实践价值。

开发者Rowan Underwood用DeskMind系统让1990年代的286 Tandy 1000电脑运行AI聊天与图像生成，通过PicoMEM网卡连接现代PC上的Qwen与Krea 2模型，跨越40年科技鸿沟。本文解析其架构设计与技术细节。

Fugleramme 是一个登上 Hacker News 的开源项目，用电子墨水相框监听鸟鸣、识别鸟类，并以19世纪博物学插画风格展示。本文拆解其声音识别、生成式插画与e-ink显示技术，探讨边缘AI的创意应用。

NVIDIA与Google DeepMind联合展示Gemma 4开源模型在DGX Spark桌面平台上的视觉翻译、长上下文问答和实时代码生成能力，解读开源AI与边缘算力融合的产业趋势及开发者实际启示。