#优化器
共 55 篇相关文章
教程攻略·11 分钟
NCCL Inspector详解：GPU集群通信实时监控与Prometheus集成实践
深入解析NVIDIA NCCL Inspector工具，介绍其与Prometheus深度集成实现GPU集群通信实时监控的方案，涵盖慢节点定位、告警配置、Grafana可视化等实际应用场景，助力大规模分布式训练性能优化。
阅读全文 →
教程攻略·11 分钟
NVIDIA Model Optimizer训练后量化(PTQ)实战指南
深入解析NVIDIA Model Optimizer训练后量化(PTQ)工作流，涵盖INT8/INT4量化原理、校准方法、RTX GPU优化策略及大语言模型量化部署最佳实践，助你在消费级显卡上高效运行大模型。
阅读全文 →
深度解读·8 分钟
AI模型部署流水线摩擦：TensorRT如何系统性消除推理优化瓶颈
深入解析AI模型从训练到生产部署中的流水线摩擦问题，详解TensorRT自动化优化、ONNX模型导出、Triton推理服务器等关键技术，提供消除部署瓶颈的最佳实践方案。
阅读全文 →
产品体验·10 分钟
GitHub 8K星：最全LLM资源宝库深度解析
深度解析GitHub 8200+星的awesome-LLM-resources项目，涵盖多模态、AI Agent、MCP协议、模型训练推理、o1模型、小语言模型等十大核心板块，为LLM从业者提供最全面的中文学习资源索引。
阅读全文 →
产品体验·10 分钟
Cube Studio深度解析：腾讯开源一站式MLOps平台
深度解析腾讯音乐开源的Cube Studio一站式AI平台，涵盖架构设计、分布式训练、大模型微调推理、国产化适配等核心能力，帮助企业高效落地MLOps全流程。
阅读全文 →
深度解读·8 分钟
Decoupled DiLoCo详解：让大规模GPU训练不再怕宕机
深入解析Decoupled DiLoCo分布式训练方法，了解它如何通过解耦训练单元实现容错能力，让大规模AI训练在节点故障时仍能继续运行，将停机损失从100%降至1%。
阅读全文 →
教程攻略·10 分钟
2025年大模型转型路线图：基础→框架→实战三阶段规划
系统梳理2025年AI大模型应用开发转型路线，涵盖Python基础、Transformer架构、LangChain与LlamaIndex框架、RAG检索增强生成、Agent开发、模型微调三大核心技能，附实战项目建议，助你2-3个月完成转型。
阅读全文 →
教程攻略·11 分钟
Agent可观测性完整方案：追踪、评估与Red Teaming实战指南
深入解析Microsoft Foundry的Agent可观测性方案，涵盖多Agent追踪、AI质量评估、Red Teaming安全测试及Prompt自动优化，帮助开发者弥合Agent预期行为与实际表现的差距。
阅读全文 →
科技前沿·9 分钟
NVIDIA Nemotron黑客松韩国站获奖项目揭晓：亚太AI开发者实力尽显
NVIDIA Nemotron黑客松韩国站获奖名单正式公布，展示韩国AI开发者创新实力。本文解析Nemotron大语言模型生态、韩国AI开发现状及NVIDIA全球开发者战略布局。
阅读全文 →
深度解读·14 分钟
Hugging Face Transformers：16万Star开源AI框架深度解析
深度解析Hugging Face Transformers开源框架，涵盖核心架构、Pipeline API、Auto Classes机制、多模态模型支持及社区生态。了解这个16万Star项目如何成为AI开发事实标准，助你快速上手预训练模型的推理与训练。
阅读全文 →
产品体验·9 分钟
Cube Studio：腾讯开源云原生AI平台全面解析
深度解析腾讯音乐开源的Cube Studio云原生AI平台，涵盖分布式训练、大模型微调推理、Pipeline编排、国产化适配等核心能力，助力企业快速构建一站式MLOps基础设施。
阅读全文 →
产品体验·7 分钟
Unsloth：显存优化80%，本地微调大模型的最佳开源工具
Unsloth是GitHub 63K+ Star的开源大模型训练工具，支持Gemma 4、Qwen 3、DeepSeek等主流模型。通过显存优化降低50%-80%显存占用，让RTX 4090也能微调7B模型，提供Web UI一键训练。
阅读全文 →
科技前沿·8 分钟
Karpathy开源autoresearch：8万Star的AI自动化科研工具解析
Andrej Karpathy发布开源项目autoresearch，利用AI Agent在单GPU环境下自动运行nanochat训练实验，GitHub已获8万+Star。本文深度解析其技术架构、核心理念及对AI科研自动化的深远影响。
阅读全文 →
观点碰撞·7 分钟
重新发明轮子：为什么亲手造轮子是通往技术前沿的捷径
开发者Andrew Quinn将3GB SQLite数据库压缩为7MB FST文件，并分享了关于「重新发明轮子」的深刻洞见：在任何技术领域，亲手重造四五个轮子比五倍时间的被动学习更能推动你抵达技术前沿。
阅读全文 →
教程攻略·6 分钟
Unsloth教程：本地微调大模型省显存提速5倍
详解Unsloth开源工具如何通过LoRA优化和Web UI界面，让消费级显卡也能高效微调Gemma 4、Qwen3、DeepSeek等主流大模型，训练速度提升2-5倍，显存降低50%-70%。
阅读全文 →
产品体验·8 分钟
Cube Studio：腾讯开源一站式AI平台，MLOps全流程深度解析
深度解析腾讯音乐开源的Cube Studio云原生AI平台，涵盖Notebook开发、Pipeline编排、分布式训练、大模型微调、推理部署及国产化适配等核心能力，助力企业快速构建MLOps全流程基础设施。
阅读全文 →
教程攻略·7 分钟
Unsloth教程：本地微调大模型省显存加速训练指南
详解Unsloth开源工具如何在本地高效微调大模型，支持Gemma 4、Qwen3、DeepSeek等主流模型，通过LoRA优化显著降低显存占用，提供Web UI界面降低训练门槛，适合个人开发者和中小团队使用。
阅读全文 →
产品体验·7 分钟
GitHub 8000+ Star：awesome-LLM-resources最全大语言模型资源库解析
深度解析GitHub万星项目awesome-LLM-resources，涵盖LLM模型训练、多模态生成、AI Agent、MCP协议、辅助编程等十余个方向，为开发者提供最全面的大语言模型学习资源地图。
阅读全文 →
产品体验·7 分钟
Claude Code提示词优化器：用AI自动重写Prompt提升代码生成质量
深入解析claude-code-prompt-optimizer开源工具，通过Hook拦截机制和Claude Opus自动将简单指令转化为结构化提示词，显著提升Claude Code代码生成效果。涵盖工作原理、应用场景及局限性分析。
阅读全文 →
产品体验·11 分钟
Cube Studio：腾讯开源一站式AI平台，覆盖大模型训练到推理全流程
深度解析腾讯音乐开源的Cube Studio云原生AI平台，涵盖分布式训练、大模型微调、vLLM推理部署、VGPU虚拟化及国产化昇腾适配等核心能力，助力企业高效落地MLOps全流程。
阅读全文 →