待验证50% 置信事实精确时间
RadixAttention 引入全局共享 KV Cache 池,通过引用计数和 LRU 淘汰策略管理缓存生命周期,并在 Radix Tree 中执行最长前缀匹配
1
来源数
50%
置信度
长期有效
时效性
2026/7/16
首次发现
来源
相关事实
待验证RadixAttention 通过将 KV Cache 组织为前缀树结构,使具有相同前缀的多个请求共享同一份缓存75% 相似待验证SGLang 的 RadixAttention 技术利用基数树结构缓存不同请求间的共享提示前缀,100个用户使用同一系统提示词时只需计算1次KV Cache63% 相似待验证在科研场景中,RAG通常与向量数据库如Pinecone、Weaviate结合使用61% 相似待验证SGLang 核心特性包括 RadixAttention(KV 缓存共享)、Continuous Batching 和原生结构化输出约束61% 相似待验证传统RAG流程的离线阶段将文档切片并通过嵌入模型转化为向量存储在向量数据库中,在线阶段通过近似最近邻(ANN)算法检索相似文档片段61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/533861API
curl https://kongchang.com/api/v1/knowledge/claims/533861MCP
get_claim(id=533861)