待验证50% 置信事实精确时间

注意力机制计算当前 token 与所有历史 token 相关性的时间复杂度为 O(n²)，其中 n 为序列长度

1

来源数

50%

置信度

长期有效

时效性

2026/7/12

首次发现

来源

vLLM推理框架详解：吞吐优化核心原理与面试攻略

bilibiliAI大模型升升2026/6/9

相关事实

待验证注意力机制计算当前token与历史token相关性的时间复杂度为O(n²)84% 相似待验证短期记忆通过在提示词中拼接历史对话实现，受限于模型上下文长度，通常4K到200K tokens不等62% 相似已验证KV Cache通过缓存历史token的注意力键值对，避免每步生成时对全部历史序列的重复计算，降低长序列生成的时延和算力消耗61% 相似待验证生成式智能体的记忆检索基于重要性、近期性和相关性评分提取关键记忆61% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/490175

API

curl https://kongchang.com/api/v1/knowledge/claims/490175

MCP

get_claim(id=490175)