待验证50% 置信事实精确时间
ZHA(Hierarchical Attention)由 Zyphra 提出,使用递归压缩的树状索引器,使总成本随序列长度亚线性增长,从而实现整体亚二次但超线性的注意力复杂度。
1
来源数
50%
置信度
长期有效
时效性
2026/11/2
首次发现
来源
涉及实体
相关事实
待验证ZGCM-1采用交错式门控滑窗注意力与全注意力的混合注意力机制67% 相似待验证Meta发布的Llama 3系列采用分组查询注意力机制(GQA),在推理效率上较传统多头注意力有显著提升63% 相似已验证GQA(分组查询注意力)是介于多头注意力(MHA)和多查询注意力(MQA)之间的注意力机制,通过将多个 Query 头分组共享 Key-Value 投影来减少 KV Cache 显存占用63% 相似待验证浮动视图在实现上通常需要处理 z-order、焦点管理、鼠标事件穿透以及尺寸自适应等问题。62% 相似已验证Qwen系列在架构层面引入了GQA(分组查询注意力)机制,相比标准多头注意力降低了KV缓存的内存占用62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1125730API
curl https://kongchang.com/api/v1/knowledge/claims/1125730MCP
get_claim(id=1125730)