待验证50% 置信事实精确时间
在张量并行模式下，注意力头被划分到不同GPU上，每张卡只持有部分注意力分区的低秩因子；若各分区独立拟合低秩表示，压缩收益会被跨卡通信部分抵消。
1
来源数
50%
置信度
长期有效
时效性
2026/11/3
首次发现
来源
BasisKV：低秩KV缓存压缩如何同时优化张量并行通信与关键页路由
rss2026/11/2
涉及实体
相关事实
待验证压缩吸收注意力为每一层分配全量、重索引、复用三种模式之一，实现层间共享KV缓存73% 相似待验证GPU擅长稠密矩阵乘法，对标准多头注意力友好；某些NPU或边缘芯片可能对稀疏注意力、线性注意力或状态空间模型层有更好的支持。71% 相似待验证IQuest-Q1 采用 3 层滑动窗口注意力搭配 1 层完整注意力的混合比例，在 88 层中只有 25 层会随上下文增长扩展 KV 缓存70% 相似已验证Multi-Query Attention技术让多个注意力头共享同一组Key和Value投影矩阵，将KV缓存显存需求压缩至原来的1/H，代价是模型表达能力的轻微损失70% 相似待验证BasisKV将低秩Value表示与输出投影绑定，使同一组低秩因子既压缩Value缓存宽度又削减张量并行通信量。70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1130472API
curl https://kongchang.com/api/v1/knowledge/claims/1130472MCP
get_claim(id=1130472)