#GPU
共 21 篇相关文章

为什么AI算力偏爱矩形?Modal CEO拆解Agent云经济学
Modal CEO Erik Bernhardsson 解析AI算力为何总以矩形形态出现,深入讨论弹性GPU调度、沙箱冷启动优化与Agent云经济学,揭示算力利用率与成本结构的真实博弈。

三星HBM产能售罄,GPU涨价潮将至?
三星2027年HBM产能全部售罄,市场预期HBM价格上涨200%、DRAM两位数涨价。本文分析存储涨价如何传导至GPU与消费级硬件,以及对玩家和开发者的实际影响。

Scaleway双国GPU Zone落地:AMD与NVIDIA双线并行
Scaleway在ai-PULSE 2026宣布斯德哥尔摩AMD MI355X集群与哥本哈根NVIDIA B300集群,米兰区域升至三个可用区,模型目录超40个。本文拆解双芯片策略对采购者的实际影响与可定价问题。

为什么你的电脑跑不动AI模型?显存才是硬门槛
AI模型的8B指80亿参数而非8GB。本文解释模型参数与存储大小的区别、量化如何压缩体积,以及为什么运行AI模型必须依赖GPU显存而非硬盘或系统内存。

英伟达RTX 50系显卡日本售价暴涨:最高超美国41%
东京零售价目显示英伟达RTX 50系列显卡在日本售价比美国亚马逊高出5.66%至41.1%,RTX 5060 Ti溢价最大。存储芯片短缺与AI算力需求挤压消费级产能,RTX 5090在日本已无库存。

RTX 5090炒到5000美元?AI公司整托盘扫货游戏显卡
RTX 5090为何被炒到5000美元?AI公司正以整托盘为单位批量采购游戏显卡,导致消费级GPU供不应求、价格飙升。本文解析AI算力需求如何冲击游戏硬件市场及其产业影响。

传英伟达或停产RTX 5090,GB202芯片转供RTX PRO专业卡
传闻称英伟达或停产RTX 5090,将GB202核心转供RTX PRO专业系列。本文解析这一消息背后的产能博弈逻辑,以及对高端玩家和AI开发者的潜在影响,并提醒该消息尚未获官方证实。

CUTLASS Python:NVIDIA加速GPU内核开发的新利器
NVIDIA 工程师介绍 CUTLASS for Python 最新进展:面向最新 GPU 编写光速级内核的技术栈,新增 Qt 扩展、CUTLASS 原语、编译器诊断等特性,为开发者与 AI 智能体提供高性能内核开发与静态检查工具。

AICR v1.0发布:开放可验证的GPU集群配置方案
NVIDIA推出AICR v1.0,为GPU加速的Kubernetes集群提供开放、稳定、可验证的配置方案,解决内核、驱动、CUDA等数十个组件的版本兼容难题,提升AI基础设施的可靠性与可审计性。

NVIDIA Green Contexts:精细控制GPU资源分配
NVIDIA Green Contexts 让开发者精细控制 GPU 计算资源的分配,将延迟敏感与吞吐密集型任务隔离到独立分区,提升并发工作负载的性能确定性与利用率。

AI数据中心为何如此耗电?从GPU发热到核电站的能源困局
AI数据中心为何如此耗电?本文解析服务器机房运作、GPU散热难题、集成光子学节能方案,以及到2028年美国数据中心用电或相当于八个纽约市的能源困局与破局思路。

TileLang:用Python语法写出高性能GPU内核的DSL
TileLang 是一门以 Python 为语法、面向 GPU/CPU/加速器的高性能内核开发领域特定语言(DSL)。本文解析其 tile 分块抽象、跨硬件设计与在大模型算子优化中的应用价值。

实时AI推理为何贵56倍?持续推理与常驻内核的破局之道
实时AI模型为何服务成本高达应有的56倍?本文解析请求式推理与持续推理的差异,拆解全双工语音模型在H100上从1到56并发会话的优化方案——常驻GPU内核、同步批处理与编译期调度。

4张Tesla T4组建64GB本地AI推理主机实战解析
一位Reddit用户分享用4张Tesla T4显卡(共64GB显存)搭建本地AI推理主机的完整配置,涵盖硬件选型、llama.cpp+OpenWebUI软件栈,以及CPU并非推理瓶颈的实测经验。

自购还是租用H200?实测盈亏平衡点在这里
自购8卡H200服务器还是租用GPU更划算?本文实测盈亏平衡计算:37万美元采购价对比4.40美元/GPU小时的租赁中位价,拆解100%/60%/40%利用率下的回本周期,以及电力、折旧、时间、闲置四大隐性成本。

GPU秋冬散热调侃:显卡真的能100%高效吗?
一条Reddit热帖调侃“秋天来了,GPU现在100%高效”,背后是显卡高功耗发热的真实现象。本文解析GPU能耗转化为热量的原理,以及数据中心废热回收等行业趋势。

AMD计划全线涨价10%:GPU、芯片组或波及CPU
Reddit传闻AMD计划对GPU、芯片组乃至CPU全线涨价约10%,引发硬件社区热议。本文解析涨价范围、市场影响与用户应对策略,提醒消费者理性看待未证实消息。

RTX 5090断货危机:第三方售价飙至9500美元的背后
英伟达RTX 5090从美国线上零售消失,第三方售价飙至9500美元。本文解析AI算力需求如何推高GPU价格,以及用户转向AMD的替代选择与市场启示。
科技前沿SGLang v0.5.12.post1发布:DeepSeek V4稳定性修复与Blackwell适配
SGLang v0.5.12.post1稳定性补丁详解,包含12项关键修复,涵盖DeepSeek V4乱码与崩溃问题、NIXL PD分离式推理逻辑修复、Blackwell B300架构适配及冷启动性能优化。
行业洞察NVIDIA Blackwell创下金融LLM推理STAC-AI新纪录
NVIDIA Blackwell架构GPU在金融行业权威基准STAC-AI中刷新LLM推理性能纪录。深入解析Blackwell架构优势、TensorRT-LLM软硬件协同优化策略,以及大语言模型在金融交易情绪分析、风控合规等场景的应用前景。