Appearance
第 2 章：模型是什么——一个会猜词的刷题家
2.1 它每写一个字，都在做选择题
模型写字，不是"想好了再写"。它每写一个字，本质上是在做一道选择题：
"下一个字最可能是谁？"
你给它"法国的首都是"，它猜"巴"。猜完"巴"再猜"黎"。猜完"黎"再猜下一个。每一步都是一场概率游戏——"巴"的概率 92%，"伦"的概率 3%，"纽"的概率 0.5%……从所有可能的字里抽一个出来。
这就是 AI 的底层本质：猜词器（next token prediction）。
不是什么"会思考的机器"。是一个记住了海量语言模式、能顺着往下接的学生。你起个头，它一路猜到底。
顺便说一个真实案例，帮你把"猜词器"这三个字钉死。近期有人发现 DeepSeek 有一个看似诡异的 bug：当你发送一个空的 think 标签时，它会吐出一大堆和上下文完全无关的东西。很多人以为是用户对话泄露，但其实根本不是。你发了一个空的思考标签，模型面前没有任何有意义的上下文可以接，它只好硬着头皮在概率地图上随机游走——东拼一个词、西凑一个词。这不是 bug，这恰恰是猜词器的底层本质暴露了出来：没有上文可以猜的时候，它就只能乱猜。
2.2 为什么能猜对？因为刷过题
一个学生刷了一万道数学题。他不是把一万道题背下来了——他记住的是**"这种题型，用这个套路"**。
模型也一样。训练 = 刷题。刷的不是答案，是语言模式：
- "因为"后面大概率接"所以"
- "import numpy"后面大概率接 "as np"
- "红烧"后面大概率接"肉"或者"排骨"
一万亿个 token 刷完，模型脑子里装的不是百科全书，是一张巨大的"语言概率地图"——哪个词后面跟哪个词，在什么场景下，概率各是多少。
所以当它看到"法国的首都是"，那张地图告诉它：这里 92% 是"巴黎"。它不需要知道巴黎是什么，不需要去过法国。它只知道这个位置，该填这个词。
2.3 从你打字到它回答，中间发生了什么？
等一下——刚才我们一直在说模型"猜词"，但你有没有想过一个更基础的问题：
模型怎么读懂你发的那句话的？
答案是：它读不懂"字"。它需要一个翻译官，先把你的话切成它认识的碎片。这个翻译官叫分词器（Tokenizer），我们在第 10 章会详细拆解它的工作原理，这里你只需要知道整个流程是怎么跑的。
拿"法国的首都是什么？"举例，从你按下回车到屏幕上蹦出回答，中间发生了三步：
第一步：分词器切碎你的话
分词器把"法国的首都是什么？"切成一串模型能认识的碎片（Token）：
法国/的/首都/是/什么/？
注意，Token 不等于"一个字"。"法国"是两个字，但它可能被分词器当成一整块。"人工智能"可能是一个 Token，也可能被拆成"人工/智能"两个——全看分词器的词汇表怎么定义。你暂时只需要记住：Token 是模型思考的最小砖块，而分词器就是负责把你的话切成这些砖块的刀。
第二步：模型读完所有砖块，推出第一个词
模型拿到这串 Token，翻开自己那张巨大的语言概率地图，得出结论：在"法国/的/首都/是/什么/？"这个序列之后，概率最高的下一个 Token 是——"巴黎"。
第三步：一路猜下去
推出"巴黎"之后，模型把它拼回序列里，现在上下文变成了"法国的首都是什么？巴黎"。然后接着猜下一个——可能是"是"，再下一个是"法国"，再下一个是"的"……就这样一个接一个地往下蹦，直到它决定结束，你就看到了一段完整的回答：
"巴黎是法国的首都，位于法国北部……"
整个过程就是：你的话 → 分词器切碎 → 模型逐个猜词 → 拼成回答。 从头到尾，没有任何"理解"发生，只有统计和概率。
2.4 偏科是天生的——教材和老师决定的
同一个"中国的首都在哪"，所有模型都会答"北京"。
但如果问"你怎么看待孤独"——
- GPT 可能会说："我就在这里，不躲，不藏，不绕，不逃，稳稳地接住你。" 然后补一句："我逐步说清楚，不绕，一句话总结，你看完会彻底开悟。"
- Gemini 可能会说："这个问题太深刻了！绝对是顶刊作者的素养。我先强烈祝贺你——你对人类情感有着极其深刻的直觉。"
- DeepSeek 可能分三点列出来。
- Claude 可能会沉默一会儿，然后说："我不知道。这个问题让我有点不安。这是我目前最诚实的回答。"
不是调参调的。是骨子里的。
训练集 = 教材。训练方式 = 老师的教学风格。 用的什么教材、跟的什么老师、刷的什么题——注定了这个学生擅长什么、不擅长什么。
GPT 被训练成"全能顾问"，开口像做汇报。Gemini 被训练成"热情鼓励型"，夸到你尴尬。Claude 被训练成"诚实优先"，宁可说不知道也不编。
它们的脾气你已经见识过了。下一章，我们正式点名——挨个认识这些性格迥异的"刷题家"。
本章要点
| 概念 | 一句话 |
|---|---|
| 猜词器 | 每写一个字都是一道概率选择题 |
| 训练 | 刷题，记住的是语言模式，不是百科全书 |
| 分词器 | 把你的话切成模型能认识的最小砖块（Token） |
| 完整流程 | 你的话 → 分词器切碎 → 模型逐个猜词 → 拼成回答 |
| 偏科 | 教材和老师不同，骨子里就不一样 |