共 111 篇相关文章

详解Claude Code本地化部署的核心架构与三种主流方案(LM Studio、Ollama、vLLM),涵盖环境变量配置、协议转换、硬件选型与模型推荐,助你零成本运行AI编程智能体。

详解Claude Code本地化部署的完整方案,涵盖核心架构解析、Ollama/LM Studio/vLLM推理引擎选择、协议转换配置、硬件需求及模型选择策略,助你实现零成本、数据不出域的AI编程体验。
开源探索·第1期:开源大模型降门槛本地化部署与Agent生态
每周四挖掘值得关注的AI开源项目

HuggingHack发布重磅更新,新增S3/MinIO对象存储支持、Ollama与vLLM双引擎智能调度、GGUF格式检查及本地账户系统,全方位提升本地化大语言模型管理能力,助力团队私有化部署与多用户协作。

银企自动对账为何难落地?本文解析企业如何用AI Agent处理硬规则之外的模糊匹配,结合OCR与本地一体机部署,实现数据不出门的安全对账,兼顾财务效率与数据合规。

Poolside 发布开源智能体编程模型 Laguna S 2.1,118B总参数仅激活8B,DeepSWE基准得分40.4%,超越DeepSeek V4 Pro Max约4.5倍。支持百万Token上下文,单台工作站可部署,OpenRouter定价$0.10/百万Token起,256K上下文端点免费。

面对美国芯片封锁与闭源垄断,中国AI开源模型凭何持续反击?本文深度拆解开源定价权博弈、光互联卡位、端侧场景三大核心路径,解析国产大模型韧性背后的真实逻辑。

实测智谱推出的手机AI Agent应用:通过云手机方案绕开权限限制,支持自然语言指令驱动自动化操作。本文详解其核心机制、真实表现、预装应用限制及未来潜力,帮你判断是否值得尝鲜。

无ChatGPT账号也能用Codex!本文详解如何通过Codex++管理工具,将DeepSeek、豆包等国产大模型接入Codex,包含Base URL配置、API Key获取、Token充值全流程步骤。

NanoClaw创始人David Boyd深度拆解企业级自主Agent核心工程设计:三重安全隔离模型(运行时隔离、凭证隔离、人类在环审批)、LLM Wiki记忆方案,以及从个人Agent到团队规模化落地的实战路径,为企业AI Agent部署提供务实参考。

SayIt是一款开源AI语音输入工具,支持本地模式、云API及服务器三种部署方式,兼容DeepSeek、通义千问等主流大模型,可自定义润色Prompt,是Typeless的理想自托管替代品。

手把手拆解本地离线RAG应用的完整构建思路:基于Ollama、ChromaDB与Flask,实现PDF文档分块、向量化检索与受控生成,全程无需云端API,敏感文档零泄露风险。适合想入门RAG或重视数据隐私的开发者。

jlens-gguf是一款开源工具,将Anthropic雅可比透镜(Jacobian Lens)可解释性方法引入GGUF与llama.cpp生态,支持模型内部观测、实时引导(steering)及abliteration操作,兼容dense与MoE架构,让本地推理用户也能探索大模型内部机制。

深入解析RAG(检索增强生成)技术原理与完整工作流程,涵盖知识库构建、向量化存储、检索增强三大步骤,帮助开发者快速掌握智能体与私有知识库开发的核心技术。

手把手教你用Docker在本地私有化部署Dify AI应用平台。涵盖Linux、Windows、macOS环境配置,docker compose一键启动,首次初始化全流程,30分钟完成企业级AI开发环境搭建。

手把手教你用Cherry Studio、MCP协议和Ollama搭建本地AI智能体与知识库,涵盖环境配置、文件操作、网页爬取、终端控制及本地RAG知识库全流程,数据不出本地,隐私有保障。
用Cloudflare Workers AI免费搭建Whisper语音转写工具
基于Cloudflare Workers AI的开源语音转写工具,无需GPU、零运维成本,免费额度即可运行Whisper模型。适合独立开发者和小团队快速实现语音转文字功能,本文详解技术架构、适用场景与局限。

详解如何用Ollama、ChromaDB和Flask搭建完全离线的RAG应用,实现PDF文档本地问答。涵盖文档切分、向量化存储、检索增强生成及防幻觉设计,数据不出本地,无需API付费。

系统学习Spring AI框架:涵盖ChatModel对话、EmbeddingModel向量化、ChatMemory记忆、Tool Calling工具调用、MCP协议及RAG检索增强生成,Java开发者构建大模型应用的完整路线图。

B站UP主图灵楼兰最新LangChain V1.3课程深度解析:为什么学工具不如学工程化思维?从RAG准确率迷思、Token成本把控,到LangChain/LangGraph/Deep Agent三大模块拆解,帮你真正成为AI时代的掌控者。