待验证50% 置信事实精确时间

在 RAG 架构中 LLM 在每次 QA 阶段调用属于高频低延迟需求，VLM 仅在文档摄取阶段且文档含图像时调用属于低频批处理需求

1

来源数

50%

置信度

长期有效

时效性

2026/9/12

首次发现

来源

Serverless GPU部署LLM实战：冷启动优化与多模型成本控制

涉及实体

RAGconcept LLMconcept VLMconcept

相关事实

待验证Embedding 模型（如 BGE、text-embedding-3-small）相比 LLM 体量小得多，通常可跑在 CPU 或低规格 GPU 上，推理耗时在毫秒级63% 相似待验证相比代码量近200万行的QEMU，基于Rust的新一代VMM内存占用更小、启动更快，这是microVM名称的由来61% 相似待验证在UMA架构下应为虚拟机预留足够内存，避免模型加载时触发swap导致性能骤降61% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/912010

API

curl https://kongchang.com/api/v1/knowledge/claims/912010

MCP

get_claim(id=912010)