ByteByteGo· ByteByteGo·· 4 小时前AI 评分40
LLM 为何遗忘提示词中间信息：解析“Lost in the Middle”效应
The LLM Blindspot: Why Models Forget What’s in the Middle of Your Prompt
AI 导读
LLM 存在“Lost in the Middle”盲区，对长提示词中间位置的信息检索准确率显著低于首尾，呈现 U 型性能曲线。该现象源于 Transformer 架构中注意力机制对开头（首因效应）和结尾（近因效应）信息的偏好，导致模型易忽略位于上下文中间的指令或事实。
来源：ByteByteGo · blog.bytebytego.com