#开源LLM
共 22 篇相关文章
教程攻略·7 分钟
Ollama本地部署大模型：三步完成安装到对话
详细介绍如何使用Ollama在本地电脑部署大语言模型，涵盖下载安装、模型选择、一键部署到对话的完整流程，无需编程基础，支持离线运行且完全免费。
阅读全文 →
教程攻略·9 分钟
AI智能体自动生成Excel测试用例：从搭建到私有化部署全流程
详解如何用AI智能体自动生成Excel测试用例，涵盖扣子平台搭建实战、Dify私有化部署方案、工作流设计技巧，帮助测试工程师用智能体替代重复劳动，实现测试用例的标准化自动输出。
阅读全文 →
教程攻略·9 分钟
Dify本地部署教程：宝塔+Docker从零搭建AI开发平台
详细图文教程教你通过VMware虚拟机、Ubuntu系统、宝塔面板和Docker，从零完成Dify本地部署。涵盖环境准备、常见报错解决方案及部署后的进阶学习路线，适合新手快速上手。
阅读全文 →
教程攻略·11 分钟
Claude Code智能体架构源码详解：Agent Loop与工具系统实战
深入解析Claude Code智能体四大核心模块：系统提示词、Agent Loop循环、工具系统与记忆机制，并基于TypeScript从零实现Mini版Claude Code，帮助开发者掌握AI Agent架构设计与开发实战。
阅读全文 →
教程攻略·11 分钟
Claude Code智能体架构深度解析：从原理到最小化实现
深度解析Claude Code智能体四大核心模块：Agent Loop、Tool System、Skills和Memory的架构设计原理，并演示如何用TypeScript从零实现一个最小化通用型智能体，助力前端工程师向AI全栈方向转型。
阅读全文 →
行业洞察·5 分钟
SGLang进军金融业：AI推理基础设施如何重塑华尔街
SGLang联合Crusoe AI、Cloudflare等举办金融AI推理活动，探讨LLM推理框架在交易、风控、合规等场景的落地应用，解析AI推理基础设施垂直化趋势及金融行业部署前景。
阅读全文 →
科技前沿·5 分钟
Cloudflare向SGLang贡献KV Cache与Mooncake关键修复
Cloudflare向SGLang上游提交decode KV cache offload和Mooncake recovery两项关键修复，解决高并发场景下Kimi K2.6模型乱码输出问题，并实现分布式推理节点自动故障恢复，提升生产环境稳定性。
阅读全文 →
科技前沿·7 分钟
Meta Muse Spark发布：原生多模态推理模型全面解析
Meta超级智能实验室发布Muse Spark，一款原生多模态推理模型，支持视觉思维链、工具调用和多智能体协调。本文深入解析其核心能力、开源策略及行业竞争格局。
阅读全文 →
产品体验·5 分钟
Tasi Harness：本地AI Agent实现浏览器自动化
Tasi Harness 是一款本地部署的 AI Agent 浏览器自动化工具，通过自然语言指令驱动浏览器完成搜索、信息采集、表单填写等任务。本文详解其功能演示、技术亮点与实用场景。
阅读全文 →
产品体验·5 分钟
Datasette LLM Accountant：开源LLM使用量追踪与成本管理工具
datasette-llm-accountant 0.1a4发布，修复响应链追踪Bug。这款开源插件帮助开发者监控LLM API调用量、token消耗和成本，支持Agent工作流中的多轮对话链式追踪。
阅读全文 →
深度解读·8 分钟
NVIDIA Dynamo多轮智能体交互：流式Token与工具调用深度集成
深入解析NVIDIA Dynamo框架对多轮智能体交互的支持，涵盖流式Token输出、工具调用结构化处理、状态管理及与MoE架构协同，助力开发者构建生产级AI Agent系统。
阅读全文 →
教程攻略·10 分钟
Codex+Ollama本地部署教程：零成本搭建AI编程助手
手把手教你用Codex搭配Ollama在本地部署免费AI编程助手，涵盖硬件检测、Ollama安装、Gemma/Qwen模型下载与接入配置全流程，轻松实现隐私安全的本地AI编程工作流。
阅读全文 →
教程攻略·7 分钟
Dify Java客户端：Java项目集成AI的最佳实践
dify-java-client是一个开源Java客户端库，帮助Java开发者快速集成Dify平台的生成式AI能力。支持对话、文本生成、工作流、知识库等完整API，提供流式响应和类型安全封装，适用于Spring Boot、智能客服等企业级场景。
阅读全文 →
产品体验·8 分钟
BuildingAI开源项目解析：像搭积木一样构建AI应用
深度解析GitHub开源项目BuildingAI，一个积木式AI应用搭建系统。支持智能体、AI客服、AI漫剧等场景，基于TypeScript开发，已获1600+ Stars。了解其核心架构、应用场景及与Dify等平台的差异。
阅读全文 →
产品体验·9 分钟
DifyAIA：2500+ Star的免费Dify AI工作流模板库
DifyAIA是GitHub上热门的Dify工作流模板开源项目，提供免费DSL工作流文件，支持一键导入Dify平台。本文详解项目特点、使用方法及适用场景，助你快速上手AI应用开发。
阅读全文 →
产品体验·6 分钟
Opik：开源LLM可观测性平台，调试评估监控一站搞定
深度解析Opik开源项目：专为LLM应用打造的全生命周期管理平台，提供链路追踪、自动化评估、幻觉检测和生产监控能力，支持RAG系统和Agent工作流，GitHub星标超19K。
阅读全文 →
产品体验·6 分钟
Reddit AI趋势追踪工具：用DeepSeek自动捕捉AI热点
reddit-ai-trends是一个开源Python工具，通过Reddit API扫描AI社区，结合DeepSeek R1自动生成趋势摘要和热门话题排行，帮助从业者高效追踪AI行业动态，解决信息过载难题。
阅读全文 →
科技前沿·9 分钟
KawaiiGPT：免密钥访问DeepSeek/Gemini/Kimi-K2的开源LLM网关
KawaiiGPT是一个开源LLM网关项目，通过逆向Pollinations API实现免密钥访问DeepSeek、Gemini、Kimi-K2等主流大模型。本文深入解析其核心特性、技术架构、Prompt注入功能及合规风险。
阅读全文 →
产品体验·10 分钟
RuoYi-AI开源框架：Java企业级AI应用开发一站式解决方案
深度解析RuoYi-AI开源框架，基于Java技术栈打造的企业级AI应用开发平台，支持多厂商大模型接入、RAG知识库、智能体编排等核心能力，5200+ Star助力企业快速落地AI应用。
阅读全文 →
产品体验·7 分钟
NadirClaw：开源LLM路由器，自动省40-70% AI API费用
NadirClaw是一款开源自托管的LLM智能路由器，自动将简单任务分配给廉价模型、复杂任务交给高端模型，兼容OpenAI API格式，支持Cursor、Claude Code等主流工具，帮助开发者节省40-70%的AI推理成本。
阅读全文 →