第 7 章：注意力——眼睛盯哪一页

7.1 同一张桌子，盯不同的位置

上一章讲了：上下文窗口是桌面上摊开的全部笔记。

但模型在读这些笔记的时候，并不会每一行都平等地看。

想象你在做一道题。桌上有五本笔记——数学、物理、化学、英语、历史。题目是一道物理题。你的眼睛会自动锁定物理笔记本，翻到公式那一页。不只是选哪本书——找到物理笔记本之后，你的眼睛还会自动跳到和这道题相关的那几行公式，而不是从第一页开始慢慢翻。其他四本你根本不看。

注意力机制（Attention）就是"眼睛此刻盯着哪一页的哪几行"。

这是两个特别容易搞混的概念。一句话分清楚：

概念	类比	一句话
上下文窗口	桌面上能放多少	"我能记住多少"
注意力	眼睛盯着哪里	"我此刻在看哪里"

上下文窗口越大，能记住的越多。注意力越准，越能从大堆笔记里快速找到相关的内容。

两者互相配合： 桌子太小，找不到足够的参考信息。注意力不准，桌上有答案也翻不到那一页。

一个实际的例子。你给模型贴了一段 500 行的代码，然后问：

"第 347 行的变量名是不是拼错了？"

模型不需要从头到尾读 500 行代码。注意力机制让它直接"翻到"第 347 行附近，定位那个变量名，检查它。

如果没有注意力——或者说注意力不够强——模型就只能从头到尾扫一遍，读到后面忘了前面，可能错过你问的那个位置。

有一件事很多人不知道，但会直接影响你的使用效果：

模型的注意力对上下文的头和尾最强，对中间最弱。

研究人员把这个现象叫做 Lost in the Middle（迷失在中间）。就像你桌上摊了十本笔记，你的眼睛天然倾向于先看最左边和最右边那两本，中间那几本翻都懒得翻。

这在实践中的意思是：你塞进 Prompt 里的内容，位置很重要。

假设你要让模型参考一份 5000 字的背景资料回答一个问题。如果你把最关键的信息埋在资料的正中间，模型很可能视而不见。正确的做法是——

把最重要的信息放在开头，或者放在结尾。 别把关键内容埋在中间。

这是一个马上就能用上的技巧。记住它。

知道了注意力的特性，就能知道两种情况下该怎么操作：

情况一：模型注意力强 + 窗口够大

→ 整份文档直接扔进去，让模型自己定位。它能找到的。

情况二：模型注意力弱 / 窗口装不下

→ 别指望模型自己在一大堆无关信息里找到答案。你先手动把关键部分提取出来再喂给它——既省 token，也减少被无关内容干扰的概率。

判断标准很简单：你用的模型窗口有多大、这份材料有多长、关键信息有没有可能被淹没在中间。 三个问题想清楚，自然知道该偷懒还是该动手。

概念	一句话
注意力是什么	模型眼睛盯着哪一页的哪几行——同一桌笔记，解不同题盯不同位置
和上下文的区别	上下文 = 桌上能放多少；注意力 = 眼睛此刻看哪里
Lost in the Middle	注意力对开头结尾最强，中间最弱——重要信息别埋中间
实操原则	窗口够 + 注意力强就整份扔进去；否则手动提关键段再喂

到这里，你已经知道了模型是什么、怎么选、怎么写 Prompt、它能记住多少、以及它的眼睛盯着哪里。理论课快结束了——下一步，在第 8 章先学会读懂 API 里那些又臭又长的模型名字，然后我们就正式动手。