待验证50% 置信事实精确时间
SGLang 的 RadixAttention 技术利用基数树结构缓存不同请求间的共享提示前缀，100个用户使用同一系统提示词时只需计算1次KV Cache
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/2
首次发现
有效期至：2026/9/30
来源
本地部署大模型的5种方法：从入门到生产环境
bilibili知识航母2026/6/10
相关事实
待验证SGLang的核心创新RadixAttention将KV缓存组织为前缀树结构，使具有公共前缀的多个请求能够共享缓存75% 相似待验证RadixAttention 通过将 KV Cache 组织为前缀树结构，使具有相同前缀的多个请求共享同一份缓存74% 相似待验证RadixAttention 引入全局共享 KV Cache 池，通过引用计数和 LRU 淘汰策略管理缓存生命周期，并在 Radix Tree 中执行最长前缀匹配63% 相似待验证语义记忆层的实现通常借助向量数据库（如Chroma、Qdrant、Pinecone）进行向量化存储和相似度检索，这一技术路线被称为RAG62% 相似部分验证SGLang的核心创新是RadixAttention技术，通过前缀树结构实现KV Cache的自动复用61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/49148API
curl https://kongchang.com/api/v1/knowledge/claims/49148MCP
get_claim(id=49148)