#NVIDIA CUDA
共 303 篇相关文章
·8 分钟
让LLM更快更轻：重塑稀疏性以适配GPU的实战方案
深入解析Sakana AI与NVIDIA合作的最新研究，通过TwELL稀疏打包格式和定制CUDA内核，将LLM稀疏性转化为真实的GPU加速收益，实现推理训练速度提升超20%、内存占用显著降低。
阅读全文 →
·9 分钟
DAQIRI平台详解：高速数据采集与实时AI推理的深度融合
深入解析DAQIRI平台如何将NVIDIA GPU加速计算嵌入高速数据采集管道，实现采集即分析的实时AI推理能力，覆盖工业质检、科学实验、自动驾驶等核心应用场景。
阅读全文 →
·11 分钟
OpenFugu：用Zig语言复现Sakana AI Fugu Ultra模型的开源实验
OpenFugu是一个用Zig语言复现Sakana AI Fugu Ultra模型的开源项目，探索非主流系统编程语言在AI领域的可能性。本文分析其技术选择、Zig在ML领域的优势与挑战，以及项目前景。
阅读全文 →
·9 分钟
CPU、GPU、TPU的本质差异与最佳适用场景详解
深入解析CPU、GPU、TPU三种芯片的架构差异、各自优势与适用场景。从矩阵乘法到张量运算，理解为何GPU适合AI训练、TPU专攻机器学习，掌握现代AI系统的硬件选型核心逻辑。
阅读全文 →
·11 分钟
Llama.cpp Windows本地部署教程：免编译三步运行大模型
详解Llama.cpp在Windows系统上的免编译本地部署方法。从下载预编译包、配置CUDA依赖到运行GGUF量化模型，三步完成大模型本地推理，支持GPU加速与Web界面，适合零基础用户快速上手。
阅读全文 →
·8 分钟
雷神猎刃S 2026款评测：i9-13900HX+RTX 5060配置解析与选购建议
深度解析雷神猎刃S 2026款游戏本，搭载i9-13900HX处理器与RTX 5060 16GB显卡，国补后约6671元。详细拆解CPU/GPU性能、AI建模能力、适用人群及购买策略，帮你判断这款笔记本是否值得入手。
阅读全文 →
·11 分钟
Fireworks平台支持Nemotron 3 Ultra后训练：一站式微调与部署
Fireworks AI训练平台新增NVIDIA Nemotron 3 Ultra后训练支持，提供SFT、DPO、LoRA及全参数微调，实现训练即部署的无缝工作流，助力开发者快速定制开放权重大模型。
阅读全文 →
·12 分钟
Claude Code本地化部署：三种方案原理与实战指南
详解Claude Code本地化部署的核心架构与三种主流方案（LM Studio、Ollama、vLLM），涵盖环境变量配置、协议转换、硬件选型与模型推荐，助你零成本运行AI编程智能体。
阅读全文 →
·8 分钟
Nemotron 3 Ultra登陆Perplexity：NVIDIA开源大模型实力几何
NVIDIA开源大模型Nemotron 3 Ultra正式上线Perplexity，面向Pro和Max用户开放。本文解析该模型的技术优势、Perplexity的模型聚合策略，以及开源模型商业化的多方共赢路径。
阅读全文 →
·9 分钟
本地部署大模型的5种方法：从入门到生产环境
详解本地部署大模型的5种主流方案：LlamaCPP、Ollama、LM Studio、vLLM/SGLang、MLX-LM，涵盖从个人开发到生产环境的完整选型指南，助你实现数据不出本地的AI私有化部署。
阅读全文 →
·7 分钟
Gemma 4 12B：Google开源模型笔记本即可本地运行
Google发布Gemma 4 12B开放权重模型，12B参数量级可在笔记本电脑本地运行。本文解析其性能优势、本地部署价值及开源生态竞争格局，助开发者快速上手评估。
阅读全文 →
·10 分钟
华为HDC深度解读：盘古2.0开源与鸿蒙7 Agent重塑手机AI生态
华为开发者大会发布盘古大模型2.0全面开源及鸿蒙OS 7系统级Agent能力。本文深度解析盘古2.0稀疏架构效率优势、鸿蒙7端侧30B模型本地运行机制，以及Agent入口争夺背后的流量重构、数据主权与商业模式变局。
阅读全文 →
·9 分钟
Perplexity联手Intel：本地AI模型与混合推理登陆笔记本电脑
Perplexity与Intel达成合作，将本地AI模型和混合推理能力带到Intel Core Ultra Series 3笔记本电脑上。本文解析混合推理架构的优势、Intel NPU算力支撑，以及AI从云端走向终端的行业趋势。
阅读全文 →
·11 分钟
DiffusionGemma：Google开源扩散式语言模型，速度超500 tokens/s
Google发布开源扩散式语言模型DiffusionGemma，采用Apache 2.0许可，26B参数MoE架构实测超500 tokens/s。了解扩散式文本生成原理、性能表现及与自回归模型的速度对比。
阅读全文 →
·11 分钟
Jeff Dean华盛顿大学Allen学院毕业典礼演讲：寄语AI时代新一代工程师
Jeff Dean受邀在华盛顿大学Allen计算机科学与工程学院毕业典礼发表演讲，寄语新一代计算机科学毕业生。了解这位Google DeepMind首席科学家的行业影响力及对AI人才培养的启示。
阅读全文 →
·9 分钟
Gemma 4开源模型本地部署教程：Ollama安装与手机端运行指南
详细介绍Google Gemma 4开源模型的本地部署方法，包括Ollama一键安装运行31B旗舰版、手机端运行1.2B轻量版，以及工具调用等实测体验，助你零成本体验高性能AI模型。
阅读全文 →
·9 分钟
LFM2.5本地部署实测：8B参数碾压GPT-o3s的工具调用能力
实测Liquid AI开源的LFM2.5模型本地部署全过程，包括架构解析、16GB显存踩坑记录、GraphRAG工具调用对比GPT-o3s，揭示8.3B参数模型如何在Agent任务中以更少资源实现更强表现。
阅读全文 →
·10 分钟
华为昇腾Ascend C算子编程入门：核函数与实战开发详解
系统讲解华为昇腾Ascend C算子编程核心知识，涵盖核函数概念、三阶段流水线编程范式、API体系分类，并通过AddCustom加法算子实战演示完整开发流程，助力开发者快速上手昇腾芯片算子开发。
阅读全文 →
·9 分钟
XAI发布Grok Build编程模型，Gemini Spark向Ultra用户开放
XAI开放Grok Build 0.1编程模型API公测，百万token低至1美元；谷歌Gemini Spark智能体面向Ultra用户开放；OpenAI Codex Computer Use登陆Windows；通应实验室发布Coin VLA模型；DeepSeek继续缩减服务功能。
阅读全文 →
·11 分钟
Stable Diffusion本地部署教程：免费无限生成的AI绘图方案
详解Stable Diffusion本地部署全流程，一键安装即可在个人电脑上免费无限生成AI图像。告别付费订阅和次数限制，涵盖安装步骤、模型管理、硬件要求及适用场景，小白也能轻松上手。
阅读全文 →