已验证65% 置信基准精确时间
PagedAttention将KV Cache拆分为固定大小的物理块通过块表映射,GPU利用率可从低于40%提升至90%以上
3
来源数
65%
置信度
长期有效
时效性
2026/7/10
首次发现
来源
LangChain实战入门:大模型调用到Agent开发全指南
bilibili今天AI了吗2026/7/8
相关事实
待验证vLLM的PagedAttention将KV缓存切分为固定大小物理块(通常16个token),使显存利用率从不足40%提升至接近90%83% 相似待验证vLLM的PagedAttention将KV Cache划分为固定大小物理块,通过块表实现地址映射,将碎片化率从60-80%降至不足4%,吞吐量提升可达24倍81% 相似待验证PagedAttention 把 KV Cache 切成固定大小的块,按需分配、非连续存放,使显存利用率从传统的 20%~40% 提升到 90% 以上。78% 相似已验证PagedAttention将KV Cache的内存利用率从不足40%提升至接近100%74% 相似待验证vLLM默认通过--gpu-memory-utilization参数将GPU显存的90%纳入规划,剩余部分才作为KV缓存使用。74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/411446API
curl https://kongchang.com/api/v1/knowledge/claims/411446MCP
get_claim(id=411446)