待验证50% 置信事实精确时间

DeepEP提供四类Buffer：EP Buffer（专家并行Dispatch与Combine）、PP Buffer（流水线并行Send/Receive）、Ingram Buffer（Table写入与按层Fetch）、Bucket Buffer（分桶操作）

1

来源数

50%

置信度

长期有效

时效性

2026/10/1

首次发现

来源

拆解DeepEP与DeepGEMM：MoE通信与大模型矩阵计算加速实战

涉及实体

DeepEP Ascendproduct

相关事实

待验证DeepSeek的前缀缓存实现基于MLA（Multi-head Latent Attention）架构，MLA通过低秩压缩将KV Cache的存储需求降低了数十倍57% 相似待验证分层存储卸载offloading实践在llama.cpp、DeepSpeed-Inference等工具中已有类似应用56% 相似已验证量化KV缓存（如FP8或INT4存储KV向量）可将缓存大小压缩到原来的1/2甚至1/456% 相似待验证在DeepSeek-V4.1-Flash中，只有四个层负责写入压缩后的KV，模型其余部分共享这份缓存55% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/963581

API

curl https://kongchang.com/api/v1/knowledge/claims/963581

MCP

get_claim(id=963581)