待验证50% 置信事实精确时间
Strata在显存中划出约6GB作为专家缓存,存放约4,500个专家,全部24,576个专家固定在系统内存中
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/5
首次发现
有效期至:2027/1/3
来源
涉及实体
相关事实
待验证Strata将整台电脑转化为三级内存层级:显存存放每个Token触及的内容、系统内存固定存放全部约2.4万组专家、固态硬盘存放29GB的N-gram查找表77% 相似待验证Strata使用低比特量化,最小配置约需38GB的内存+显存总和,最高质量配置约需55GB,64GB系统内存是理想目标67% 相似待验证Strata 会额外下载一个约 6GB 多的 data 目录,包含 MTP(多 token 预测)相关内容67% 相似待验证当上下文超过6.4万Token时,Strata将大部分KV缓存保留在内存中,仅把最热的3.2万Token保留在显存,在26.2万上下文下速度从约51提升至63 Token/秒66% 相似待验证Strata采用KV缓存分层管理,显存只保留32K单元KV缓存,其余下沉到内存,实测KV显存命中率达98.9%65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/978805API
curl https://kongchang.com/api/v1/knowledge/claims/978805MCP
get_claim(id=978805)