#Apple Silicon LLM推理

共 25 篇相关文章

深入解析Anthropic动态工作流的核心机制、与单Agent和Sub-Agent模式的区别，以及通过决策树判断何时该用、何时不该用，避免无效烧Token。

详解如何在3080Ti 12GB显存上本地部署多模态AI Agent系统，涵盖LLM、语音识别、语音合成、图片生成、视频生成五大模块的选型方案、显存动态加载策略及实际性能表现。

Qwen 3.6 35B MoE模型在MacBook本地运行，成功逆向工程LTE调制解调器Web门户，从混淆JS代码中提取登录逻辑和信号数据，代码质量超越Claude Sonnet，Gemma 4同一任务失败。详解三级测试体系与近4小时推理全过程。

深度解析Hugging Face开源Agent生态系统：开源模型已追平闭源表现，本地Agent部署方案对比（Hermes/LLama/Plandex），Skills系统实现对话式自动训练模型，MCP集成实战案例，一文掌握AI Agent开发全链路。

百聆（bailing）是一款基于ASR+LLM+TTS架构的开源语音助手，集成DeepSeek R1大模型，端到端延迟仅800ms，支持打断对话，可在Mac等低配设备流畅运行，助你打造私有化个人AI语音助手。