待验证50% 置信事实精确时间
本地部署大模型时，显存占用由模型权重和运行时内存（主要是KV缓存）两部分组成
1
来源数
50%
置信度
长期有效
时效性
2026/9/7
首次发现
来源
涉及实体
相关事实
待验证运行本地LLM时显存容量往往比计算速度更为关键，显存容量直接决定了能运行哪些模型75% 相似待验证运行大模型除模型本身外还需预留1-2GB显存用于KV Cache（键值缓存）74% 相似待验证本地部署大语言模型的内存选型路径：仅CPU推理需内存≥模型参数量的1.2倍（如70B量化模型约需48-64G）；GPU推理主要看显存，内存作为加载缓冲128G足够；多模型/长上下文场景优先192G74% 相似待验证大模型默认是无状态的，ChatMemory 用于让模型具备上下文记忆，支持基于内存存储和基于数据库存储两种方式71% 相似待验证模型规模越大，记忆能力反而越强，因为更大的模型拥有更强的参数容量来存储低频样本71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/870159API
curl https://kongchang.com/api/v1/knowledge/claims/870159MCP
get_claim(id=870159)