大模型的运作原理：每次只预测下一个词

大模型的工作方式可以压缩成一句话：给定前面的所有内容，计算下一个词出现的概率，选一个输出，然后把输出接回输入，继续预测下一个。 你输入「床前明月」，它见过无数次「光」跟在后面，于是接出「光」。写代码、做规划、模仿鲁迅文风，全是这条机制在不同规模的材料上运转的结果。 这条机制同时解释了两件事： 本事——它读过的模式足够多，所以接得又快又像； 毛病——它只负责「接得像」，从不负责「是真的」。后面第七章讲的幻觉，根子就在这里。

搜索引擎给你书架：一列链接，出处清楚，内容你自己读，错了能追溯到源头。 大模型给你结论：一段现成的、通顺的答案，凭的是训练时记住的语言模式，没有出处可查。 由此得出一条实用的分工原则： 查事实、找来源、追时效——用搜索； 做加工、写初稿、改格式、换语气——用大模型。 让大模型顺便「顺便报一下来源」是危险的：它可能会为了满足你的要求，生成格式完美、内容虚构的参考文献。

训练是把知识压进参数的过程：数千张显卡跑数周到数月，消耗的电费和算力以百万美元计，产出一个固定的模型文件。这一步只有厂商在做。 推理是拿训好的模型回答问题：毫秒级响应，按调用量计费。你和你的用户每天都在参与这一步。 你付的钱几乎全是推理费。理解这条边界有两个好处： 看懂商业模式——模型厂商降价降的是推理价，竞争发生在服务成本上； 看懂能力边界——推理再久也不会让模型「学会」新知识，想要新知识要么重新训练，要么把资料塞进上下文（第四部分讲）。

大模型的语料主体是公开互联网文本：网页、书籍、论文、代码仓库、百科、问答社区。 这决定了两件事： 偏向——它最擅长讨论互联网上被写过很多遍的话题，行文风格也带着公共文本的平均气质。 盲区——企业内部的制度细节、行业的私有数据、小众社群的黑话、训练截止之后的新事件，语料里没有，它就只能靠猜。 所以「模型不知道我们公司的流程」不是缺陷，是必然。补救办法不在模型侧，而在把你的资料送进上下文——这正是第四部分 RAG 要解决的问题。

假设你输入：「帮我写一封感谢客户的邮件」 模型内部发生了什么？逐步还原： 第 1 步 → 模型看到你的输入，开始预测第一个输出词 候选：「尊」80%　「亲」12%　「感」5%　→ 输出「尊」 第 2 步 → 输入变成「帮我写一封感谢客户的邮件 → 尊」 候选：「敬」95%　→ 输出「敬」 第 3 步 → 输入变成「…尊敬」 候选：「的」97%　→ 输出「的」 ……如此循环几十到上百次，一封完整的邮件就出来了。 这个过程解释了三个日常困惑： 为什么它写的邮件格式很标准？→ 训练数据里有海量邮件，「尊敬的」后面跟「客户」的概率极高 为什么它有时候会写出不存在的公司名？→ 它在预测「最像的词」，不在核实「是不是真的」 为什么限制它「不超过 100 字」有时候不管用？→ 每个词独立预测，模型没有全局的字数计数器，只能靠学到的模式来控制长度