待验证50% 置信观点精确时间
论文认为将注意力矩阵当作'一袋值'从中挑选最大值是数学上错误的直觉，因为注意力矩阵是参与矩阵乘法的结构化算子
1
来源数
50%
置信度
长期有效
时效性
2026/10/9
首次发现
来源
涉及实体
相关事实
待验证注意力权重大的条目不一定对矩阵乘法后的输出贡献最大，权重与输出贡献是两个不同的量78% 相似待验证标准注意力机制中，Query矩阵与Key矩阵做矩阵乘法得到n×n注意力分数矩阵，计算复杂度为O(n²·d)76% 相似已验证自注意力机制的计算复杂度随序列长度呈近似二次方增长，序列长度为n时注意力矩阵计算量正比于n²70% 相似待验证选择性SSM本质上等价于一种特殊的半可分矩阵（semiseparable matrix）形式的注意力70% 相似待验证标准 Scaled Dot-Product Attention 中 Q 与 K 做矩阵乘法得到 n×n 注意力分数矩阵，计算量为 O(n²·d)69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/990369API
curl https://kongchang.com/api/v1/knowledge/claims/990369MCP
get_claim(id=990369)