zero → nanochat从零读懂一个小型大语言模型

不先堆公式，也不从框架配置开始。沿着一条真实可运行的代码链路，从文字、词元、Transformer，走到能对话、能调用工具的小模型。

一条真实主线

分词器、数据、模型、预训练、监督微调、强化学习和推理，全部对应 nanochat 仓库里的真实文件，不另造一套玩具代码。

先用流程图、结构图、时序图和小例子建立直觉，再回到代码和公式。每一张技术插图都说明一个具体问题。

每章给出可运行命令、关键源码位置和能够自己检查的输出。读完不是“好像懂了”，而是知道下一步该看什么、跑什么。

全站固定使用同一套中文术语。第一次出现时给出英文，之后不再换说法，避免同一个概念被不同叫法绕晕。

不需要一次学完。先选一条，走到一个可以验证的结果，再回到地图继续。

安装依赖、下载少量数据、训练分词器，再跑一个很小的模型和对话。适合完全没接触过 nanochat 的人。

按课程的五个部分顺序读。先理解数据和模型，再看训练循环、对话微调与推理引擎。

从源码地图进入，按训练调用链和推理调用链读。每章末尾都有固定提交版本的 GitHub 行号链接。

开始前只需要会一点 Python 和终端命令。 你不需要先学完深度学习，也不需要立刻有 8 张 H100。CPU 可以走通完整链路，只是模型会很小、结果不会达到 GPT-2 的水平。教程会明确区分“理解流程”和“训练出好模型”这两件事。