Lost in the Middle
Lost in the Middle 是大型语言模型（LLM）领域的一个研究概念，指模型在处理长文本上下文时，对位于输入序列中间位置的信息表现出注意力减弱、利用率降低的现象。该概念由相关学术研究提出，揭示了模型倾向于更有效地处理上下文首尾部分的信息，而对中间部分的关键内容存在忽略倾向，对长上下文理解能力评估具有重要参考意义。
核心事实
时间轴 (近 90 天)
研究发现大模型在关键信息位于上下文开头或结尾时表现最好，位于中间位置时性能显著下降，某些任务准确率下降超过20个百分点
RAG系统存在迷失在中间（Lost in the Middle）问题，即上下文较长时模型往往忽略中间部分信息而偏向开头和结尾
斯坦福大学2023年发布的Lost in the Middle研究（Liu et al.）显示，当关键信息位于上下文中间段时，模型检索准确率相比头部和尾部下降约20-30个百分点，且在上下文超过32K token时尤为显著
主流模型的上下文窗口已从最初的4K扩展到128K甚至更大，但更大的上下文意味着更高的推理延迟和成本
Lost in the Middle效应指模型对注入上下文中间位置内容的关注度低于首尾
即使是支持128K token的大模型，在实际使用中也面临注意力衰减问题——模型对窗口中间位置的信息关注度明显低于首尾
研究表明当上下文过长时，模型对中间部分信息的注意力会显著下降，即"Lost in the Middle"现象
斯坦福大学2023年发表了研究论文《Lost in the Middle》，实验证明当关键信息被放置在长上下文的中间位置时，模型的检索准确率会大幅下降
全部知识事实 (8)
研究表明当上下文过长时，模型对中间部分信息的注意力会显著下降，即"Lost in the Middle"现象
80%已验证斯坦福大学2023年发表了研究论文《Lost in the Middle》，实验证明当关键信息被放置在长上下文的中间位置时，模型的检索准确率会大幅下降
80%已验证斯坦福大学2023年发布的Lost in the Middle研究（Liu et al.）显示，当关键信息位于上下文中间段时，模型检索准确率相比头部和尾部下降约20-30个百分点，且在上下文超过32K token时尤为显著
65%已验证Lost in the Middle效应指模型对注入上下文中间位置内容的关注度低于首尾
65%待验证研究发现大模型在关键信息位于上下文开头或结尾时表现最好，位于中间位置时性能显著下降，某些任务准确率下降超过20个百分点
50%待验证RAG系统存在迷失在中间（Lost in the Middle）问题，即上下文较长时模型往往忽略中间部分信息而偏向开头和结尾
50%待验证主流模型的上下文窗口已从最初的4K扩展到128K甚至更大，但更大的上下文意味着更高的推理延迟和成本
50%待验证即使是支持128K token的大模型，在实际使用中也面临注意力衰减问题——模型对窗口中间位置的信息关注度明显低于首尾
50%