算力
指支撑AI模型训练与推理的计算资源,通常以GPU集群、数据中心等形式存在,是衡量AI企业基础设施能力与成本结构的核心指标
核心事实
时间轴 (近 90 天)
算力正在成为新时代的稀缺资源,个人持有与使用方式正被置于公共审视之下。
NCM将推理瓶颈从显存带宽转向计算算力,权重读取次数大幅减少,但处理的位置数多于输出的token数,增加了计算量。
算力的环境影响正在从企业ESG议题升级为国家能源规划议题,数据中心的选址、并网优先级、备用电源配置将成为监管关注点。
从云计算到移动互联网,再到模型训练与推理,计算需求在长周期内持续扩张。
算力作为资产的逻辑意味着企业会通过资本开支(CapEx)、折旧周期和长期采购承诺来体现算力投入。
模型参数不再是唯一壁垒,可持续获取的算力资源正在被重新定价。
算力此前难以形成流动市场,核心原因在于其非标准化。
小批量推理时瓶颈在显存带宽,大批量时计算密度上升使算力成为瓶颈,这解释了3090与L40S的性能交叉。
攻击比特币网络需要掌握超过半数算力,成本随网络规模同步上升,因此安全性本身成为一项持续投入的「沉没成本」。
大语言模型属于「流动型」技术,其效用和持续投入绑定,包括海量算力、能源和不断刷新的数据。
还有 13 条时间轴事件
全部知识事实 (20)
算力已成为AI研究的准入门槛,非顶尖机构研究者因资源有限难以推进大规模实验验证
75%已验证在AI战略制定中应将算力供给的稳定性和成本作为核心变量考量
65%待验证算力正在成为新时代的稀缺资源,个人持有与使用方式正被置于公共审视之下。
50%待验证NCM将推理瓶颈从显存带宽转向计算算力,权重读取次数大幅减少,但处理的位置数多于输出的token数,增加了计算量。
50%待验证从云计算到移动互联网,再到模型训练与推理,计算需求在长周期内持续扩张。
50%待验证模型参数不再是唯一壁垒,可持续获取的算力资源正在被重新定价。
50%待验证算力作为资产的逻辑意味着企业会通过资本开支(CapEx)、折旧周期和长期采购承诺来体现算力投入。
50%待验证算力此前难以形成流动市场,核心原因在于其非标准化。
50%待验证小批量推理时瓶颈在显存带宽,大批量时计算密度上升使算力成为瓶颈,这解释了3090与L40S的性能交叉。
50%待验证攻击比特币网络需要掌握超过半数算力,成本随网络规模同步上升,因此安全性本身成为一项持续投入的「沉没成本」。
50%待验证大语言模型属于「流动型」技术,其效用和持续投入绑定,包括海量算力、能源和不断刷新的数据。
50%待验证自我复制的模型会消耗分散的算力与电力。虽然单点能耗低,但规模化后的总能耗可能并不比数据中心更优,甚至更难以统计和管理。
50%待验证算力、数据、算法三者之间存在正反馈循环:更多数据训练出更好的模型,更好的模型又能从数据中挖掘更多价值,进而吸引更多数据和算力投入。
50%待验证机器学习近年大规模落地是因为算力提升、海量数据积累和算法改进三者叠加的结果。
50%待验证作者提出应把算力当作裂变材料来对待:追踪它,限制获取足以将AI提升到超出已知安全水平的大规模算力。
50%待验证投入科学的算力约每2年翻倍
50%待验证个人开发者的算力消耗主要体现在调用云端大模型API的token费用和本地部署开源模型所需的GPU算力两个层面
50%待验证对个人开发者而言,算力是比模型能力更稀缺的资源,模型越强算力就越贵
50%待验证AI能力的扩散速度远超核材料,「算力」作为关键投入要素比铀更难管控
50%待验证算力需求持续攀升是不可逆的趋势
50%