#HuggingFace
共 42 篇相关文章
·5 分钟
LlamaFactory：统一微调100+大模型的开源框架详解
深入介绍LlamaFactory开源项目，一个支持100+大语言模型和视觉语言模型的统一微调框架，涵盖LoRA、QLoRA、RLHF等高效微调方法，提供Web UI可视化操作，GitHub超7万Star，ACL 2024收录。
阅读全文 →
·9 分钟
vLLM深度解析：PagedAttention如何实现高吞吐量LLM推理
深入解析vLLM高吞吐量LLM推理引擎的核心技术，包括PagedAttention内存管理、连续批处理机制、分布式部署方案，以及与TensorRT-LLM等方案的对比和适用场景建议。
阅读全文 →
行业洞察·6 分钟
AI工具免费骗局揭秘：引流套路拆解与风险防范指南
深度拆解B站常见的免费AI工具引流骗局，从公益人设塑造、被迫害叙事到私域转化的完整套路分析，揭示数据安全、账号安全等潜在风险，并提供实用的识别方法和防范建议。
阅读全文 →
产品体验·7 分钟
Hertzman木马人：免费免安装的本地大模型部署工具评测
详细评测Hertzman木马人本地推理引擎，涵盖一键部署、智能硬件推荐、OpenAI兼容API接口等核心功能，并与LM Studio进行性能对比，帮你快速上手本地大模型。
阅读全文 →
行业洞察·9 分钟
大模型三大岗位深度解析：门槛、技术栈与职业前景
深度解析大模型应用工程师、研发工程师、算法工程师三大核心岗位的技术要求、薪资门槛与发展前景，涵盖RAG、模型微调、推理部署等关键技术栈，助你制定清晰的AI职业规划路径。
阅读全文 →
产品体验·8 分钟
AIStarter与PanelAI架构升级详解：一站式AI工具箱的进化之路
深入解析AIStarter与PanelAI两款AI工具的架构升级计划，涵盖项目市场、模型管理、AI助理等核心功能更新，以及定价策略与商业模式分析。了解这个一站式AI工具箱如何降低AI使用门槛。
阅读全文 →
教程攻略·9 分钟
大模型命名规则解析：参数量、量化格式与显存需求速查
系统拆解大模型命名规则，解释32B参数量、AWQ/GGUF量化格式的含义，提供4-bit量化显存估算公式与速查表，涵盖MOE模型显存陷阱、IMatrix量化推荐及按显存档位的模型选择建议。
阅读全文 →
教程攻略·7 分钟
大模型学习路线：七大板块从入门到项目实战全解析
系统梳理大模型学习的七大核心板块，涵盖环境搭建、提示词工程、RAG检索增强生成、Agent智能体、开发框架、模型微调部署及实战项目，帮助开发者快速构建完整的大模型技能体系。
阅读全文 →
教程攻略·8 分钟
ONNX模型部署实战：从PyTorch导出到跨框架推理完整指南
详解ONNX神经网络交换格式的核心原理与实战应用。涵盖PyTorch和TensorFlow模型导出ONNX、ONNX Runtime推理、MNIST分类器部署、HuggingFace模型下载等完整流程，附可运行代码示例。
阅读全文 →
教程攻略·5 分钟
HuggingFace Transformers入门教程：模型下载、Pipeline推理到训练保存
详解HuggingFace Transformers核心用法，涵盖预训练模型下载配置、Pipeline API情感分析实战、Tokenizer分词器原理、模型推理Softmax处理及保存复用完整流程，附Python代码示例。
阅读全文 →
教程攻略·6 分钟
Hermes + Qwen3.6 本地部署教程：零成本搭建私有AI Agent
详细教程教你用Hermes Agent搭配Qwen3.6开源大模型，在本地零成本部署私有AI助手。涵盖WSL环境配置、模型下载启动、Telegram机器人对接及开机自启设置，实现无限Token、数据私有的AI Agent体验。
阅读全文 →
产品体验·9 分钟
Manus实测：三大真实场景验证通用AI Agent到底行不行
深度实测Manus通用AI Agent在历史报告生成、特斯拉股票分析及GAIA基准测试中的真实表现。对比垂直智能体核心差异，附GAIA三级评分数据与局限性分析，看清AI从对话助手到任务执行者的进化之路。
阅读全文 →
产品体验·10 分钟
Cube Studio深度解析：腾讯开源一站式MLOps平台
深度解析腾讯音乐开源的Cube Studio一站式AI平台，涵盖架构设计、分布式训练、大模型微调推理、国产化适配等核心能力，帮助企业高效落地MLOps全流程。
阅读全文 →
深度解读·13 分钟
Hugging Face Transformers：16万星开源AI框架全面解析
全面解析GitHub 16万星的Hugging Face Transformers框架，从核心架构、多模态模型支持到大模型量化推理优化，帮助开发者快速掌握预训练模型的加载、微调与高效部署。
阅读全文 →
产品体验·9 分钟
GPT-OSS 120B/20B开源模型深度测评：幻觉、推理、代码全面实测
OpenAI开源GPT-OSS 120B和20B模型全面测评，涵盖幻觉测试、逻辑推理、代码生成、SQL查询、文档分析等多维度实测，附部署方式与选型建议，助你选择最适合的开源大模型。
阅读全文 →
教程攻略·9 分钟
OpenAI开源GPT-OSS：16G显存跑O4级模型，部署教程全解析
OpenAI正式开源GPT-OSS系列模型（20B/120B），采用MOE架构+FP4混合精度，单卡4090即可运行O3级推理模型。本文详解核心技术、性能评测及Ollama/vLLM等四种本地部署方案。
阅读全文 →
教程攻略·9 分钟
GPT-OSS-20B私有化部署教程：硬件选型+部署流程+效果实测
详解OpenAI开源GPT-OSS-20B本地私有化部署全流程，涵盖显卡选型（RTX 5090/V100/4070Ti）、Linux环境部署步骤、API调用配置及实测效果，附120B模型硬件方案对比，助你低成本搭建企业级AI服务。
阅读全文 →
教程攻略·10 分钟
Browser-Use WebUI安装配置教程：AI浏览器自动化实战
详细介绍Browser-Use WebUI的安装部署、Gemini与DeepSeek模型配置方法，并通过表单填写、内容总结、电商数据采集等四个实战场景，演示AI驱动浏览器自动化的完整流程。
阅读全文 →
教程攻略·10 分钟
4-bit QLoRA微调LLaMA 3实战：消费级GPU训练80亿参数大模型指南
详解如何使用QLoRA和Unsloth框架在消费级GPU上微调LLaMA 3 8B大模型。涵盖4-bit量化、LoRA低秩适配、Alpaca数据格式、训练流水线搭建到模型部署的完整流程，RTX 3090即可运行。
阅读全文 →
深度解读·14 分钟
Hugging Face Transformers：16万Star开源AI框架深度解析
深度解析Hugging Face Transformers开源框架，涵盖核心架构、Pipeline API、Auto Classes机制、多模态模型支持及社区生态。了解这个16万Star项目如何成为AI开发事实标准，助你快速上手预训练模型的推理与训练。
阅读全文 →