已验证75% 置信事实精确时间
PagedAttention 将 KV Cache 切分为固定大小的块,按需动态分配,不同请求的块可以非连续存放
3
来源数
75%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
待验证PagedAttention 把 KV Cache 切成固定大小的块,按需分配、非连续存放,使显存利用率从传统的 20%~40% 提升到 90% 以上。79% 相似待验证vLLM 的 PagedAttention 机制把 KV cache 切分为固定 token 数(通常为 16)的 block,通过 block table 记录逻辑位置到物理块的映射。77% 相似待验证PagedAttention将KV Cache切分成固定大小的块,每个块通常存储16个token的键值对74% 相似已验证KV缓存的大小由三个相乘的维度决定:每条记录的大小、多少个Token合成一条、层与层之间能否共用72% 相似已验证PagedAttention技术借鉴操作系统虚拟内存的分页思想,将KV Cache切分为固定大小的物理块动态分配71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/898573API
curl https://kongchang.com/api/v1/knowledge/claims/898573MCP
get_claim(id=898573)