#推理引擎
共 158 篇相关文章
教程攻略·8 分钟
LocalAI教程：无需GPU本地部署大模型，Docker一键搞定
详解LocalAI本地部署教程，无需GPU即可运行近千种开源大模型。通过Docker一键部署，兼容OpenAI API接口，支持对话、文生图、语音等多模态功能，数据完全本地化，隐私安全有保障。
阅读全文 →
教程攻略·9 分钟
AI Agent学习路线图：LangChain到企业级落地的完整指南
深度解析GitHub热门开源项目ai-agents-from-zero，涵盖LangChain、LangGraph、RAG、MCP等主流技术栈，提供从零基础到企业级AI Agent开发的系统化学习路径、实战项目与面试题库。
阅读全文 →
教程攻略·10 分钟
DeepSeek R1+BrowserUse：免费开源浏览器自动化方案搭建教程
详解如何用DeepSeek R1和BrowserUse搭建免费的浏览器自动化方案。包含Ollama本地部署教程、WebUI安装步骤及实测效果，媲美OpenAI Operator却完全免费开源。
阅读全文 →
教程攻略·9 分钟
n8n一键部署30+AI工具：免费替代Zapier的自托管方案
详解GitHub开源项目n8n-install，通过一条命令部署n8n、Ollama、Flowise等30+AI工具，打造私有自动化工作流平台。涵盖核心组件解析、部署特性、适用场景及注意事项，是Zapier和Make的免费自托管替代方案。
阅读全文 →
科技前沿·7 分钟
Mistral AI亮相NVIDIA GTC 2025：新模型、企业AI与重磅消息前瞻
Mistral AI确认参加NVIDIA GTC 2025大会，将演示最新前沿模型、分享企业AI愿景并揭晓重磅新闻。本文解析三大看点及Mistral AI与NVIDIA的战略协同。
阅读全文 →
深度解读·9 分钟
Claude Code源码泄露揭秘：Harness架构七大核心机制详解
深度解析Claude Code源码泄露事件，揭示其核心Harness架构的七大机制，包括上下文管理、工具调用编排、状态追踪等，为AI Agent开发者提供架构设计参考。
阅读全文 →
教程攻略·9 分钟
AI科研全流程实战：从LLM选型到N8N自动化工作流搭建指南
深度解析AI驱动科研全流程方法论，涵盖LLM模型选型、Python数据分析自动化、Zotero文献管理、Overleaf论文写作、本地LLM部署及N8N自动化工作流搭建，助你从AI聊天升级为AI做科研。
阅读全文 →
教程攻略·8 分钟
TierCraft AI：LangGraph+OpenAI自动生成SaaS定价方案实战解析
深入解析TierCraft AI开源项目，了解如何用LangGraph编排AI Agent工作流，结合OpenAI o4-mini模型自动生成SaaS三档定价方案。涵盖Reality-Check循环机制、上下文感知定价等核心设计，附Next.js前端交互实现。
阅读全文 →
教程攻略·10 分钟
4-bit QLoRA微调LLaMA 3实战：消费级GPU训练80亿参数大模型指南
详解如何使用QLoRA和Unsloth框架在消费级GPU上微调LLaMA 3 8B大模型。涵盖4-bit量化、LoRA低秩适配、Alpaca数据格式、训练流水线搭建到模型部署的完整流程，RTX 3090即可运行。
阅读全文 →
科技前沿·6 分钟
DeadEnd-CLI：开源AI渗透测试工具黑盒基准达81%通过率
DeadEnd-CLI是一款开源AI代理式渗透测试工具，在XBOW基准测试中以KIMI K2.5模型实现81%全黑盒通过率。支持多模型兼容、完全自托管部署，为安全团队提供低成本自动化渗透测试方案。
阅读全文 →
深度解读·14 分钟
Hugging Face Transformers：16万Star开源AI框架深度解析
深度解析Hugging Face Transformers开源框架，涵盖核心架构、Pipeline API、Auto Classes机制、多模态模型支持及社区生态。了解这个16万Star项目如何成为AI开发事实标准，助你快速上手预训练模型的推理与训练。
阅读全文 →
深度解读·10 分钟
Context Engineering全解析：从Prompt到上下文工程的AI范式转移
深入解析Context Engineering（上下文工程）的核心理念与实践方法。从Prompt Engineering到上下文设计、编排与优化，探讨Karpathy提出的AI工程新范式如何重塑大模型应用开发与AI Agent构建。
阅读全文 →
产品体验·9 分钟
Cube Studio：腾讯开源云原生AI平台全面解析
深度解析腾讯音乐开源的Cube Studio云原生AI平台，涵盖分布式训练、大模型微调推理、Pipeline编排、国产化适配等核心能力，助力企业快速构建一站式MLOps基础设施。
阅读全文 →
科技前沿·6 分钟
Kimi K2官方验证工具K2-Vendor-Verifier：一键检测API供应商模型精度
Moonshot AI开源K2-Vendor-Verifier工具，专门验证第三方Kimi K2 API供应商的推理精度。本文详解该工具的核心功能、技术实现思路及对开发者选型的实际价值，帮助你避开过度量化、模型替换等API市场隐患。
阅读全文 →
产品体验·8 分钟
Open WebUI：13万Star开源AI界面，部署教程与功能全解析
深度解析Open WebUI这款13.5万Star的开源AI交互界面，涵盖Ollama集成、Docker一键部署、RAG文档问答、多用户管理等核心功能，助你快速搭建本地AI助手或企业AI平台。
阅读全文 →
前沿研究·9 分钟
SVDQuant：4-bit量化让扩散模型在消费级GPU上高效运行
SVDQuant是ICLR 2025 Spotlight论文，通过低秩分解吸收异常值实现扩散模型4-bit量化，显存降低75%。开源项目Nunchaku获3800+ Stars，让FLUX等大型图像生成模型在RTX 4060等中端显卡上流畅推理。
阅读全文 →
深度解读·11 分钟
Agent、MCP与Function Calling的区别与关系详解
深入解析AI Agent、MCP协议、Function Calling和Prompt之间的关系与区别。从基础概念到完整架构，一文帮你建立清晰的AI应用开发认知框架。
阅读全文 →
科技前沿·6 分钟
DeepSeek-V3.2-Exp发现RoPE实现Bug：交错格式不匹配导致推理性能下降
DeepSeek-V3.2-Exp推理演示中发现RoPE旋转位置编码的交错格式不匹配Bug，Indexer模块与MLA注意力模块的输入格式不一致导致隐性性能退化。本文详解问题根源、技术细节及修复方案。
阅读全文 →
产品体验·10 分钟
PyGPT：开源桌面AI助手，一站式集成GPT/Claude/Ollama等多模型
深度解析PyGPT开源桌面AI助手，支持GPT-4、Claude、Gemini、Ollama本地模型等多模型集成，内置RAG知识管理、智能体、语音交互、图像生成等功能，适用于开发者、内容创作者和企业用户。
阅读全文 →
教程攻略·9 分钟
Hugging Face开源AI Agent课程深度解析：2.8万星标背后的实战学习指南
深度解析Hugging Face开源AI Agent课程（agents-course），涵盖课程结构、核心技术栈、学习路径及适用人群，帮助开发者系统掌握智能体开发从工具调用到多智能体协作的完整技能。
阅读全文 →