#MLX框架
共 12 篇相关文章
·7 分钟
Meta Muse Glimmer：30B开源本地编程模型深度解析
深度解析Meta Muse Glimmer开源编程模型，30B参数规模支持本地运行，开放权重保障数据隐私。详解其技术定位、适用场景、部署要求及与Code Llama、DeepSeek Coder等竞品的对比分析。
阅读全文 →
·17 分钟
Snapdown：Mac截图一键转Markdown的本地AI工具
Snapdown是一款Mac端本地AI工具，支持将屏幕截图一键转换为结构化Markdown文本，保留标题层级、表格和列表格式。基于Apple Silicon本地处理，无需联网，保护隐私。适合开发者、技术写作者等Markdown重度用户。
阅读全文 →
·16 分钟
Mitra：开源桌面萌宠，专注陪伴与隐私保护兼得
Mitra 是一款开源桌面伴侣应用，以可爱动画角色陪伴工作，具备智能反应、健康提醒功能，采用零追踪本地优先架构保护隐私，轻量设计不占资源，支持社区定制扩展。
阅读全文 →
·13 分钟
24GB Mac Mini本地跑大模型：模型选型与速度优化指南
24GB内存Mac Mini运行本地大模型太慢？本文分析14B模型在Mac Mini上慢的原因，推荐适合Home Assistant等场景的3B-8B模型选型方案，并提供Ollama推理速度优化的实用建议。
阅读全文 →
·14 分钟
ARYA：从零打造能操控真实应用的语音AI助手
开发者打造的语音AI助手ARYA，能操控WhatsApp、Spotify等真实应用，具备向量记忆功能。深入解析其技术实现路径、AI Agent趋势及个人开发者构建智能体的机遇与挑战。
阅读全文 →
·6 分钟
逆向工程苹果ANE：开源项目实现神经引擎设备端训练
深度解析GitHub热门项目maderix/ANE，通过逆向工程苹果私有API实现在Apple Neural Engine上训练神经网络，探讨其技术原理、能效优势、合规风险及对设备端AI训练的深远意义。
阅读全文 →
·14 分钟
Qwen3深度解析：开源混合推理大模型的全面进化
阿里千问第五代模型Qwen3全面解析：6款Dense与MoE架构模型覆盖0.6B至235B，全球首款开源混合推理模型，旗舰235B性能追平Gemini 2.5 Pro，开发者与企业部署的完整参考指南。
阅读全文 →
·11 分钟
苹果M7 Ultra芯片曝光：1.5TB统一内存能否重塑本地AI推理格局
Reddit社区曝光苹果M7 Ultra芯片规格，最高1.5TB统一内存或支持本地运行所有主流开源大模型。本文深度解析其技术架构、定价争议、内存带宽瓶颈及苹果生态锁定问题，探讨这款芯片对本地大模型部署的实际意义。
阅读全文 →
·6 分钟
Apple Silicon本地图生3D：20秒生成、2GB内存，Modelr开源应用实测
开发者将腾讯Hunyuan3D模型移植至Apple MLX框架，M4 Max实测形状生成仅需20秒、峰值内存5.6GB，量化后甚至可在iPhone运行。Modelr开源应用支持实时流式可视化，是首个专为Apple Silicon打造的本地图生3D桌面工具。
阅读全文 →
·8 分钟
苹果高管秘密会议曝光：承认AI落后，WWDC反击计划浮出水面
彭博社披露苹果高管在库克缺席下召开秘密会议，坦承AI领域落后。面对OpenAI、Google等对手的狂飙突进，苹果如何应对隐私路线约束与端侧算力限制？WWDC 2025或将揭晓反击方案。
阅读全文 →
教程攻略·5 分钟
Gemma 4全面解析：Apache 2.0开源的Agent圣体
深度解析Google Gemma 4开源模型系列，涵盖31B、26B MOE、14B/12B三档模型红黑榜评测，提供Windows/Linux/Mac部署方案及MS-Swift微调实战教程，助你精准选型构建本地Agent工作流。
阅读全文 →
教程攻略·8 分钟
DeepSeek V4 Flash MTP推测解码实测：本地推理提速20%指南
实测DeepSeek V4 Flash开启MTP推测解码后的性能表现：代码生成场景提速约20%，文本生成提升有限。详解内存开销、准确性差异、Q4与Q3量化对比，以及通过Inference应用和OpenAI兼容API的完整部署教程。
阅读全文 →