#GPU显存

一张24GB显卡跑三个AI服务：实测只用了17.8GB

一位家庭 AI 实验者在单张 24GB RTX 3090 上同时运行 Whisper 转录、TTS 语音与嵌入模型，7 天实测显存占用 17.8GB、峰值 23.4GB 且零溢出。本文揭示常驻服务显存为权重的 1.2–2.5 倍，并给出本地 LLM 显卡选型的实用建议。