#本地AI开发
共 13 篇相关文章
·7 分钟
AMD Ryzen AI Halo本地AI开发套件深度解析：4000美元值不值？
AMD Ryzen AI Halo开发套件定价4000美元，搭载128GB统一内存与XDNA 2 NPU，主打本地大模型推理。本文深度解析其架构优势、性能局限、与Mac Studio的对比，以及软件生态挑战，助你判断是否适合你的AI开发需求。
阅读全文 →
·14 分钟
Mac mini M6/M5 Pro评测：5英寸机身的工作站级性能
新款Mac mini搭载M6与M5 Pro芯片，支持Apple Intelligence本地AI、Wi-Fi 7及更快存储。5英寸紧凑机身实现工作站级性能，适合开发者与创作者的高效桌面解决方案。
阅读全文 →
·16 分钟
Chestnut：首款开源固件eGPU扩展坞深度解析
Chestnut是一款采用开源固件设计的eGPU外置显卡扩展坞，支持开发者自定义固件逻辑。本文深度解析其技术架构、开源优势、适用场景及面临的挑战，适合硬件极客和本地AI开发者关注。
阅读全文 →
·8 分钟
Unsloth Desktop：首款支持本地训练+推理的开源AI桌面应用
Unsloth Desktop是一款开源桌面应用，支持Mac/Windows/Linux三平台，集成本地模型训练与推理功能，提供2倍训练加速、70%显存节省，支持GGUF、MLX等格式及Claude Code连接，是本地AI开发的一站式平台。
阅读全文 →
·17 分钟
hotcell：为AI Agent打造的本地沙箱SDK
hotcell是一款开源自托管沙箱SDK，专为AI Agent代码执行安全隔离设计。支持Mac/Linux本地运行，提供默认拒绝出站网络、per-sandbox临时token机制和资源管控，让开发者无需依赖云服务即可实现AI代码的安全执行。
阅读全文 →
·7 分钟
本地大模型跑Agent卡顿？调低num_gpu是关键
本地部署大模型在Agent框架中频繁崩溃或卡顿？问题可能出在num_gpu参数设置过高。本文解析num_gpu的真实含义（GPU层卸载而非显卡数量），揭示显存争夺导致KV Cache溢出的机制，并提供实用调优方案。
阅读全文 →
·13 分钟
从零构建离线RAG应用：PDF文档本地问答完整指南
详解如何用Ollama、ChromaDB和Flask搭建完全离线的RAG应用，实现PDF文档本地问答。涵盖文档切分、向量化存储、检索增强生成及防幻觉设计，数据不出本地，无需API付费。
阅读全文 →
·6 分钟
苹果高管解读：Mac Mini为何成为AI开发者的本地推理首选
苹果芯片部门高管公开解析Mac Mini在AI开发者中需求激增的原因：统一内存架构突破显存瓶颈、优异能效比支持长时间本地部署，结合苹果端侧AI战略，Mac Mini正成为本地大模型推理的热门选择。
阅读全文 →
·14 分钟
Dify本地部署实战：Docker环境搭建AI应用平台全流程
详解Dify本地部署全流程：从Docker环境配置、源码拉取、容器启动到首次访问，手把手带你搭建私有化AI应用开发平台，适配Linux、Windows、Mac多平台，助力企业级AI应用快速落地。
阅读全文 →
·16 分钟
26M超轻量模型Needle：本地微调工具调用全流程实战
Needle是仅有2600万参数的工具调用专用模型，本文详解如何用Ollama替代Gemini生成训练数据，在单张显卡上完成本地微调，最终实现96.7% F1得分，适合边缘设备与端侧AI部署。
阅读全文 →
产品体验·2 分钟
联想ThinkBook 16+ R7-H255评测：4799元AI编程办公本值得买吗
联想ThinkBook 16+搭载AMD R7-H255处理器，售价4799元，定位AI编程与商务办公。本文从处理器性能、价格定位、适用场景等方面分析这款16英寸高性能笔记本的实际表现与购买建议。
阅读全文 →
教程攻略·7 分钟
Gemma 4部署DGX Spark实战：本地AI超算+开源大模型全解析
深度解析Google Gemma 4模型在NVIDIA DGX Spark上的部署方案。涵盖DGX Spark硬件架构、Gemma 4技术亮点、本地AI部署优势及开发者实践指南，助你掌握桌面级AI超算的最新玩法。
阅读全文 →
