我见过太多人卡在同一个地方。

前半段人生里,他能用各种大模型 API 写出漂亮的周报、测试用例、客服话术;后半段人生里,一旦老板问一句「能不能让模型只说我们行业的话,别瞎编」,他就傻了。

于是他开始搜教程:LoRA 是什么、PEFT 是什么、QLoRA 怎么省显存、ChatGLM 和 Qwen 到底选哪个。收藏夹越来越长,跑通的代码永远是「hello world」。

问题不在他不够努力,而在他一直站在大模型门外往里看,从来没进过发动机舱。

王晓华老师的‌《从零开始大模型开发与微调:基于PyTorch与ChatGLM》,做的就是一件事:把门撬开,把你按在工位上,从 PyTorch 张量开始,一路拧螺丝拧到能给自己微调一个中文大模型。

它不教你「用轮子」,它教你「为什么轮子会转」

市面上一半大模型书,翻三页就是「from transformers import AutoModelForCausalLM」。

这本不一样。它前 15 章干的是苦活:反向传播手写一遍,卷积层跑 MNIST,ResNet 拆 Block,词嵌入讲 Word2Vec 和 FastText,RNN/GRU 做中文情感分类,然后才进编码器-解码器、BERT、GPT-2,最后自己撸一个简化版 ChatGPT,把 RLHF 那层雾撕开给你看。

很多人会问:我都想微调 ChatGLM 了,还学 MNIST 干嘛?

真做过工程就知道,微调崩了的时候,你分不清是数据脏、是 loss 没收敛、还是 attention mask 写反了。前面积累的那点「底层肌肉」,就是那时候救你命的。

这本书的逻辑很老派但很对:先让神经网络在你手里活过来,再谈大模型。

真正值钱的是后半段:把 ChatGLM 按在本地微调

第 16 到 18 章,才是这本书的「现价」。

它讲 ChatGLM 的加载与 Prompt,讲怎么搭一个医疗问答机器人 GLMQABot,讲金融信息抽取——用本地知识库 + 文本相似度 + 知识链把模型钉在真实文档上,不让它胡说。

然后进微调:

· Accelerator 全量微调怎么加速

· INT8 / INT4 量化怎么把显存压下来

· LoRA 低秩适配怎么只训一小撮参数就把模型「调顺」

· Hugging Face PEFT 怎么把上面那些事变成几行配置

你会发现,原来「让大模型懂我业务」不是玄学,是一条可复现的流水线:造数据 -> 选策略 -> 跑通最小案例 -> 评测 -> 看 Bad Case -> 再训。

书里基于早期 ChatGLM 开源版本,接口今天要按新仓库改。但 LoRA 的低秩假设、量化的显存账、RAG 的检索-重排-生成链路,这些「脑子里的东西」不过时。

它适合谁,不适合谁

适合:

· 会 Python,被 NumPy/PyTorch 劝退过但还想再试一次的人

· 做 Java/前端/后端多年,现在被公司推着转 AI 应用,需要把「调 API」升级成「能排错能微调」的人

· 高校计算机/人工智能相关专业的老师和学生,拿它当带代码的教材

· 想做垂直领域问答(医疗/金融/客服/法务)但卡在「模型不听话」的产品技术人

不适合:

· 只想学提示词套模板、拿大模型写朋友圈文案的人

· 指望「三天从零训 70B」的人

· 排斥看公式和 loss 曲线的人

它的「从零」不是「零基础」,是「从第一行 PyTorch 代码开始」。

为什么 2026 年还值得翻一本 2023 年的书

因为大模型换皮太快,底层没换。

Attention 还是那个 Attention,Transformer 还是那个 Transformer,梯度下降还是那个梯度下降。你今年追 Qwen3、明年追 GLM-5,追一辈子都是用户;你把反向传播和自回归生成啃透,明天换哪个权重你都能接。

而且这本书有个被低估的优点:代码密度高、图示多、不端着。高校教师写书的通病它没有——不会一章两页公式然后说「读者自证」。它逼你敲。

配的源码和 PPT 课件,适合两种人:自学者当陪跑,老师直接搬进实验室。

最后说点实在的

如果你现在的状态是:

· 能跑通别人给的 LoRA 脚本但不知道为啥 work

· 模型幻觉了只会加「请严格依据上下文回答」

· 面试被问「你的微调数据怎么构造、评测指标怎么定」就虚

那别再买「大模型神课」了。先拿这本,把第 4 章反向传播自己推一遍,把第 14 章 GPT-2 的 Attention 打印出来看一眼,把第 18 章 LoRA 从 PEFT 库版本和手写版本各跑一次。

跑完你会获得一种很老派的能力:下次模型出问题,你能指着眼前的 tensor 说「毛病在这」。

大模型时代最稀缺的不是会发请求的人,是能听见机器喘气声的人。

这本书,就是教你贴着机器胸口听。

《从零开始大模型开发与微调:基于PyTorch与ChatGLM》

王晓华 / 清华大学出版社

配套示例源码 + PPT 课件

提醒一句:书底子稳,几十所高校选为教材。ChatGLM 生态已迭代,照着书跑不动时,把 model_name 换成当前开源权重,把 chat template 对齐新 tokenizer,原理不用重学,路还是那条路。

从零开始大模型开发与微调:基于PyTorch与ChatGLM——jd

Logo

更多推荐