#CPU推理
共 14 篇相关文章
深度解读·9 分钟
大模型训练全流程解析：预训练、SFT微调与偏好对齐通俗详解
详解大模型训练三大核心阶段：预训练、有监督微调(SFT)、偏好对齐(DPO/PPO)，涵盖LoRA、模型蒸馏量化剪枝等关键技术，帮助开发者理解从Base Model到Chat Model的完整流程。
阅读全文 →
教程攻略·7 分钟
OpenClaw本地部署教程：10分钟接入微信飞书钉钉
详解OpenClaw（小龙虾）本地部署全流程，涵盖Windows安装、云部署、微信/飞书/钉钉多平台接入及自定义Skills编写，零基础用户10分钟即可完成部署上手。
阅读全文 →
教程攻略·10 分钟
llama.cpp MTP加速部署指南：配置步骤与性能实测
详解llama.cpp如何启用MTP多Token预测加速技术，涵盖CUDA环境配置、桌面端设置、模型选择及实测性能数据，Qwen3 27B实测近60 Token/s。
阅读全文 →
教程攻略·11 分钟
Qwen3.5+RAGFlow+Ollama本地AI知识库搭建实战指南
详细教程：使用RAGFlow、Ollama和LM Studio搭建本地RAG知识库，涵盖Docker环境配置、Embedding模型部署、网络踩坑解决方案，实现数据私有化的智能问答系统。
阅读全文 →
教程攻略·8 分钟
Stable Diffusion本地部署教程：8GB内存免费运行AI绘画
详解Stable Diffusion本地部署完整流程，包括硬件要求、一键安装步骤、模型配置方法。8GB内存即可零成本运行AI图像生成，附优势局限分析与配置建议。
阅读全文 →
教程攻略·7 分钟
PyCharm配置本地DeepSeek模型实现AI辅助编程完整教程
详细介绍如何通过Ollama在PyCharm中配置本地DeepSeek模型，实现免费、隐私安全的AI辅助编程。包含安装步骤、插件配置、使用技巧及硬件建议。
阅读全文 →
行业洞察·8 分钟
AI账号轮换工具的风险揭秘：灰产背后的安全隐患
深度解析AI额度破解工具的运作模式，揭示账号轮换灰产背后的法律合规风险、数据泄露隐患，并提供API付费、订阅升级等正当替代方案。
阅读全文 →
教程攻略·7 分钟
FastEmbed教程：轻量级本地向量嵌入库安装与实战指南
详解FastEmbed轻量级Python嵌入库的安装配置、文本与图像嵌入用法，以及与Qdrant向量数据库的无缝集成，帮助开发者在无GPU环境下快速构建本地AI应用。
阅读全文 →
深度解读·5 分钟
LLM每秒10个Token有多快？直观感受Token生成速度的开源工具
通过开源工具直观体验LLM不同Token生成速度（5-800 TPS）的实际效果，帮助开发者理性选择模型、优化推理性能，告别对TPS数字的盲目追求。
阅读全文 →
教程攻略·6 分钟
MoS-TTS-Nano部署教程：0.1B超轻量TTS模型CPU即可运行
经实战验证的MoS-TTS-Nano本地部署教程，0.1B参数超轻量TTS语音合成模型无需GPU，四核CPU即可流畅运行。涵盵Conda环境配置、pynini安装踩坑解决、模型下载及Gradio WebUI启动全流程。
阅读全文 →
教程攻略·10 分钟
Codex+Ollama本地部署教程：零成本搭建AI编程助手
手把手教你用Codex搭配Ollama在本地部署免费AI编程助手，涵盖硬件检测、Ollama安装、Gemma/Qwen模型下载与接入配置全流程，轻松实现隐私安全的本地AI编程工作流。
阅读全文 →
教程攻略·8 分钟
LocalAI教程：无需GPU本地部署大模型，Docker一键搞定
详解LocalAI本地部署教程，无需GPU即可运行近千种开源大模型。通过Docker一键部署，兼容OpenAI API接口，支持对话、文生图、语音等多模态功能，数据完全本地化，隐私安全有保障。
阅读全文 →
教程攻略·9 分钟
n8n一键部署30+AI工具：免费替代Zapier的自托管方案
详解GitHub开源项目n8n-install，通过一条命令部署n8n、Ollama、Flowise等30+AI工具，打造私有自动化工作流平台。涵盖核心组件解析、部署特性、适用场景及注意事项，是Zapier和Make的免费自托管替代方案。
阅读全文 →
产品体验·10 分钟
GitHub 8K星：最全LLM学习资源库深度解析
深度解析GitHub热门项目awesome-LLM-resources，涵盖多模态生成、AI Agent、MCP协议、模型训练推理、小语言模型等LLM核心方向，8200+星标的一站式大语言模型学习资源指南。
阅读全文 →