#CUDA vs ROCm
共 16 篇相关文章
·6 分钟
RX 9060 XT vs RTX 5060 Ti：本地AI显卡怎么选
RX 9060 XT与RTX 5060 Ti同为16GB显存，本地AI推理该选谁？从CUDA生态、ROCm兼容性、LLM推理性能到实际使用体验，全面对比两款显卡在本地AI场景中的优劣与适用人群。
阅读全文 →
·8 分钟
Rust与Mojo正悄然取代Python底层引擎
Python再次登顶编程语言榜首，但AI团队正悄悄用Rust和Mojo替换其底层。本文剖析Python的速度与GIL之痛、双语言问题，以及Rust工具链和Mojo在GPU领域的崛起。
阅读全文 →
·12 分钟
DeepSeek开源免费策略如何颠覆AI产业格局
DeepSeek以"商业化盈利+开源免费"双轨模式挑战AI行业垄断格局，冲击英伟达等科技巨头逾万亿美元市值。本文深度解析DeepSeek开源战略的商业逻辑、全球反响及其对AI产业格局的深远影响。
阅读全文 →
llmfit：一条命令检测硬件能跑哪些本地大模型
·15 分钟
llmfit：一条命令检测硬件能跑哪些本地大模型
llmfit 是用 Rust 编写的开源命令行工具，无需下载模型即可预判本地硬件能否运行指定 LLM。覆盖数百种模型与 Ollama、llama.cpp 等主流推理后端，帮助开发者在本地部署大模型前快速完成硬件适配评估，避免反复试错。
阅读全文 →
·11 分钟
苹果M7 Ultra芯片曝光：1.5TB统一内存能否重塑本地AI推理格局
Reddit社区曝光苹果M7 Ultra芯片规格，最高1.5TB统一内存或支持本地运行所有主流开源大模型。本文深度解析其技术架构、定价争议、内存带宽瓶颈及苹果生态锁定问题，探讨这款芯片对本地大模型部署的实际意义。
阅读全文 →
·10 分钟
AMD Ryzen AI Halo实测：x86架构能否撼动英伟达DGX Spark？
深度实测AMD Ryzen AI Halo迷你AI盒子：搭载Ryzen AI Max Plus 395（Strix Halo）芯片，128GB统一内存，售价4000美元。对比英伟达DGX Spark，从Token生成、预填充速度到x86架构优势，全面解析谁更值得入手。
阅读全文 →
·7 分钟
软件复利效应：AI基础设施竞争的真正胜负手
GPU军备竞赛之外，软件正成为AI基础设施的核心复利引擎。本文深度解析软件优化的叠加效应、CUDA生态的护城河价值，以及开源如何将个体技术红利转化为社区集体财富，为AI基础设施团队提供战略参考。
阅读全文 →
·12 分钟
Ollama为何快速崛起？拆解本地大模型工具的成功逻辑
Ollama如何从小众开源项目成长为开发者默认选择？本文从产品设计、技术策略、生态建设三个维度，拆解Ollama在本地大语言模型工具领域快速崛起的核心逻辑，以及它对AI工具开发者的启示。
阅读全文 →
·17 分钟
Ollama+Hermes本地AI部署：打造100%私有的个人AI操作系统
用Ollama+Hermes构建完全私有的本地AI系统：零费用、无速率限制、数据不出本地。本文详解部署步骤、模型选择技巧及私有/云端混合工作流，助你真正"拥有"AI而非"租用"AI。
阅读全文 →
产品体验·9 分钟
Google Gemma 4实测：手机离线运行+Ollama部署教程
实测Google Gemma 4开源模型在三台手机上的离线运行表现，详解Dense与MOE架构区别，附Ollama + Claude Code完整部署教程。从1B到31B四款模型覆盖手机到工作站全场景，4GB显存即可运行。
阅读全文 →
教程攻略·7 分钟
Stable Diffusion本地部署教程：免费无限制的AI绘画方案
详解Stable Diffusion本地部署方法，包括硬件要求、一键整合包安装流程和模型管理技巧。零成本、无次数限制、完全离线运行，适合高频创作者和隐私敏感用户的开源AI绘画替代方案。
阅读全文 →
行业洞察·7 分钟
AMD MI355X击败B200：DeepSeek-R1推理TCO低5%的全栈优化解析
AMD Instinct MI355X通过SGLang+MoRI全栈优化，在DeepSeek-R1分离式推理中实现TCO比NVIDIA B200低5%，每GPU吞吐量高1.25倍。深度解析MoRI量化通信、KV Cache优化及推测解码等核心技术突破。
阅读全文 →
教程攻略·7 分钟
Ollama本地部署大模型完全指南：断网也能用的AI
详解Ollama本地部署开源大模型的完整流程，涵盖安装配置、模型选择、显存要求及实际效果对比。支持Llama 3、通义千问等主流模型，零成本、断网可用，轻松打造私有AI工作站。
阅读全文 →
教程攻略·7 分钟
Ollama教程：本地一键运行DeepSeek、Qwen等大模型完整指南
详解Ollama开源工具的安装使用方法，支持DeepSeek、Qwen、Kimi-K2.5、GLM-5等主流大模型本地部署，17万Star的最受欢迎本地大模型运行框架，助你实现离线AI推理与隐私保护。
阅读全文 →
教程攻略·15 分钟
Ollama完全指南：一行命令本地运行DeepSeek等大模型
Ollama是GitHub 17万Star的开源工具，支持一行命令本地运行DeepSeek、Qwen、Kimi-K2.5等主流大模型。本文详解Ollama的模型生态、核心优势、应用场景及为何它成为本地LLM部署的事实标准。
阅读全文 →
教程攻略·12 分钟
Ollama教程：一行命令本地运行DeepSeek等大模型
详解Ollama本地部署大模型的完整指南，支持DeepSeek、Qwen、Gemma等主流开源模型。了解Ollama的安装使用、核心优势、技术架构及适用场景，零API费用实现数据隐私保护。
阅读全文 →