待验证50% 置信发布精确时间
Netpreme将其自研的X-Mem™ MPU作为TB/s级内存层接入SGLang的HiCache分层KV缓存体系
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/11
首次发现
有效期至：2026/10/9
来源
TB/s内存层加速SGLang：X-Mem让TTFT降低6.7倍的技术解析
twitterlmsysorg2026/7/8
相关事实
待验证HiCache是SGLang实现的分层KV缓存系统，将KV数据按访问热度分级存储于GPU HBM、Host DRAM和NVMe SSD71% 相似待验证SGLang 核心特性包括 RadixAttention（KV 缓存共享）、Continuous Batching 和原生结构化输出约束64% 相似待验证Mem0定位为轻量级记忆中间件，核心优势在记忆管理层，通过LLM驱动的事实抽取和智能更新机制自动沉淀结构化记忆60% 相似待验证基于Electron的应用缓存结构通常包含GPU缓存（GPUCache）、网络缓存（Cache）、本地存储（Local Storage）和IndexedDB数据库60% 相似待验证MEM0（原Mem0）是一个开源记忆层框架，支持向量数据库后端（Qdrant、Chroma等），通过嵌入模型实现语义相似度检索59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/486850API
curl https://kongchang.com/api/v1/knowledge/claims/486850MCP
get_claim(id=486850)