待验证50% 置信事实精确时间

大语言模型的推理功耗与模型规模直接相关，消费级显卡在满载运行时整机功耗轻松突破数百瓦。

1

来源数

50%

置信度

长期有效

时效性

2026/10/26

首次发现

来源

仓鼠跑轮驱动本地AI：一场关于算力能耗的黑色幽默

涉及实体

大语言模型concept 消费级显卡product

相关事实

待验证Many large model inference workloads are bottlenecked by memory capacity rather than pure bandwidth73% 相似待验证重度用户倾向于使用最强模型处理最复杂任务，导致其单位算力成本远高于轻度用户72% 相似待验证大语言模型动辄数十GB，其加载时间和内存占用对传统弹性伸缩策略提出新挑战72% 相似待验证本地运行的编程模型需考虑量化压缩、推理速度、内存占用等工程约束，因此“laptop-sized”意味着模型参数规模通常较小（数亿到数十亿级别）。70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1099208

API

curl https://kongchang.com/api/v1/knowledge/claims/1099208

MCP

get_claim(id=1099208)