待验证60% 置信事实精确时间

显存卸载指在推理过程中将暂时不参与计算的权重或激活值从 GPU 显存转移到系统内存或磁盘，代价是重新搬回 GPU 产生延迟导致推理速度下降

2

来源数

60%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

ComfyUI-Olm-YuE2：分阶段可控的AI音乐生成工作流

涉及实体

显存卸载concept

相关事实

已验证当模型参数量超出GPU显存容量时需要offload到系统内存，推理速度会从数十Token/秒骤降至个位数79% 相似待验证在大模型训练中，一个批次内的所有计算单元必须完成前向计算和反向传播并同步更新参数后才能进入下一批次，因此在智能体长任务中快单元需等待慢单元，导致 GPU 利用率下降。79% 相似待验证在 CUDA 后端跳过自适应验证成本剖析，通常意味着减少 GPU 推理路径上的非必要运行时开销。77% 相似已验证CPU-GPU混合推理（offloading）方案会带来显著的推理速度下降77% 相似待验证追求极致低延迟意味着GPU利用率下降、单位推理成本攀升76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/900547

API

curl https://kongchang.com/api/v1/knowledge/claims/900547

MCP

get_claim(id=900547)