#开源大语言模型
共 45 篇相关文章
·9 分钟
vLLM深度解析：PagedAttention如何实现高吞吐量LLM推理
深入解析vLLM高吞吐量LLM推理引擎的核心技术，包括PagedAttention内存管理、连续批处理机制、分布式部署方案，以及与TensorRT-LLM等方案的对比和适用场景建议。
阅读全文 →
·8 分钟
AI机器人攻占社交平台：从垃圾回复到引用转发的全新威胁
AI机器人回复泛滥已迫使社交平台用户限制互动功能，更危险的是机器人已学会利用引用转发绕过防御。深度解析AI污染社交媒体的进化路径、平台治理困境及应对方向。
阅读全文 →
科技前沿·8 分钟
Hermes Agent 0.14.0更新：原生Windows支持与180倍性能提升
Hermes Agent 0.14.0基础更新详解：本地代理统一认证、浏览器自动化180倍提速、原生Windows支持、AI视频生成、DeepSeek V4免费接入及Handoff无损上下文切换等重大改进。
阅读全文 →
教程攻略·10 分钟
Qwen3.5+RAGFlow+Ollama本地AI知识库搭建完整教程
详细介绍使用Qwen3.5、RAGFlow和Ollama搭建本地AI知识库的完整流程，涵盖Docker部署、Embedding模型配置、知识库创建与测试，帮助零基础用户快速实现RAG检索增强生成系统的本地化部署。
阅读全文 →
产品体验·10 分钟
Llama 3.3 70B深度测评：13道题实测最强开源大模型
Meta发布Llama 3.3 70B开源模型，仅70B参数却媲美405B性能。经过13道逻辑推理、数学计算、编程题全面测试，通过12题表现惊艳，重塑开源模型格局。
阅读全文 →
产品体验·7 分钟
AI编程一体机vs在线大模型：48万年费能换4套本地方案？
深度对比AI编程一体机与在线大模型API的成本差异。以20人开发团队为例，年均Token费用高达48万元，而OnePanel AI编程一体机仅需9.9万元，两个半月即可回本。从成本、安全、延迟、合规四大维度分析本地化AI编程部署方案的实际价值。
阅读全文 →
产品体验·5 分钟
Trae深度解析：字节跳动发布国内首款AI原生IDE，编程行业将如何变革
字节跳动发布国内首款AI原生IDE——Trae，集成豆包、DeepSeek及Claude 3.7模型，提供Chat和Build两大编码模式。本文深度解析Trae核心功能、对小型工具开发的冲击，以及AI编码工具对程序员职业发展的深层影响。
阅读全文 →
教程攻略·6 分钟
Hermes + Qwen3.6 本地部署教程：零成本搭建私有AI Agent
详细教程教你用Hermes Agent搭配Qwen3.6开源大模型，在本地零成本部署私有AI助手。涵盖WSL环境配置、模型下载启动、Telegram机器人对接及开机自启设置，实现无限Token、数据私有的AI Agent体验。
阅读全文 →
产品体验·7 分钟
5款宝藏效率工具推荐：AI编程助手、GPS轨迹记录、官网直达
精选5款实用效率工具：Ping Island将AI编程代理集成到Mac刘海屏，Petadex虚拟宠物陪你写代码，GPS Logger极致省电轨迹记录，DataVal系统学习AI开源教程，官网直达一键跳转告别百度搜索烦恼。开发者和效率控必看的工具合集。
阅读全文 →
产品体验·8 分钟
Grok 4.1 vs GPT-5 vs Claude 4.5实测对比｜2025选型指南
2025年Grok 4.1、GPT-5、Claude 4.5、Gemini 3 Pro四大AI模型深度横评，涵盖推理、代码、创作、长文本处理等真实场景实测，附多模型协作案例与选型速查表，帮你快速选对AI工具。
阅读全文 →
产品体验·9 分钟
Manus实测：三大真实场景验证通用AI Agent到底行不行
深度实测Manus通用AI Agent在历史报告生成、特斯拉股票分析及GAIA基准测试中的真实表现。对比垂直智能体核心差异，附GAIA三级评分数据与局限性分析，看清AI从对话助手到任务执行者的进化之路。
阅读全文 →
教程攻略·9 分钟
OpenManus本地部署教程：DeepSeek配置与实测效果全解析
手把手教你完成OpenManus本地部署，涵盖Conda环境搭建、DeepSeek API配置全流程。通过3个实测案例验证网页搜索、文件生成等AI Agent能力，深入解析Agent核心架构原理，助你快速上手这款Manus开源替代方案。
阅读全文 →
教程攻略·11 分钟
NVIDIA Model Optimizer训练后量化(PTQ)实战指南
深入解析NVIDIA Model Optimizer训练后量化(PTQ)工作流，涵盖INT8/INT4量化原理、校准方法、RTX GPU优化策略及大语言模型量化部署最佳实践，助你在消费级显卡上高效运行大模型。
阅读全文 →
产品体验·11 分钟
Chatbox开源AI客户端：近4万Star，一站式管理多模型对话
深度解析GitHub近4万Star的开源AI客户端Chatbox，支持GPT-4、Claude、Gemini等多模型一键切换，数据本地存储保护隐私，跨平台桌面应用。详解核心功能、适用场景及与Jan、TypingMind等同类产品对比。
阅读全文 →
深度解读·13 分钟
Hugging Face Transformers：16万星开源AI框架全面解析
全面解析GitHub 16万星的Hugging Face Transformers框架，从核心架构、多模态模型支持到大模型量化推理优化，帮助开发者快速掌握预训练模型的加载、微调与高效部署。
阅读全文 →
产品体验·13 分钟
LibreChat：36K Star开源ChatGPT替代方案完整指南
深度解析LibreChat开源AI聊天平台，涵盖多模型聚合、MCP协议、Agents智能体、代码解释器等核心功能，以及Docker自托管部署方案与同类项目对比，助你搭建私有AI助手。
阅读全文 →
产品体验·9 分钟
MeMo开源AI Agent平台深度评测：长期记忆+MCP协议+多Bot协作实战
深度评测开源AI Agent平台MeMo，详解长期记忆系统、MCP协议接入、多Bot容器化隔离、全渠道部署等核心功能，附安装配置教程与使用建议，帮你快速上手智能体开发。
阅读全文 →
教程攻略·10 分钟
Codex+Ollama本地部署教程：零成本搭建AI编程助手
手把手教你用Codex搭配Ollama在本地部署免费AI编程助手，涵盖硬件检测、Ollama安装、Gemma/Qwen模型下载与接入配置全流程，轻松实现隐私安全的本地AI编程工作流。
阅读全文 →
科技前沿·5 分钟
首届CAIS大会即将召开：Databricks联创Andy Konwinski受邀主题演讲
首届CAIS大会即将举行，Databricks联合创始人Andy Konwinski受邀发表主题演讲。本文介绍Andy Konwinski的技术背景、Databricks在AI领域的布局，以及CAIS大会的核心看点与行业意义。
阅读全文 →
产品体验·9 分钟
OMI OpenCode实战：免费开源多智能体AI编程框架详解
深入解析OMI OpenCode多智能体编排框架，通过SysForce编排器实现AI编程团队协作。涵盖安装配置、实战演示、免费与付费方案对比，助你用开源工具构建高效AI编程工作流。
阅读全文 →