待验证50% 置信事实精确时间
Latent Sparse Attention(LSA)是一种高效注意力方法,其核心是在学习得到的潜在空间中对键进行层次化聚类,查询对聚类层次结构打分而非逐一给每个键打分。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/11/2
首次发现
有效期至:2027/1/31
来源
涉及实体
相关事实
待验证模型引入通义千问自研的吸收式Attention机制QSA,与DeepSeek的DSA(DeepSeek Sparse Attention)思路高度相似71% 相似待验证DeepMind的Griffin将基于线性递归单元LRU的循环层与局部注意力层交替堆叠66% 相似已验证DeepSeek V4采用自研的分层压缩注意力策略,设计了CSA(压缩吸收注意力)和HCA(重度压缩注意力)两种注意力模式交替使用66% 相似待验证学习型选择器通常是一个轻量级网络(如小型MLP或低秩投影),它接收当前查询向量与候选token的键向量,快速打分并选出Top-k个最相关的token参与真正的注意力计算。65% 相似待验证DeepSeek-V3.2-Exp首次引入自研的DeepSeek Sparse Attention(DSA)稀疏注意力技术64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1126136API
curl https://kongchang.com/api/v1/knowledge/claims/1126136MCP
get_claim(id=1126136)