大模型学习day3
·
一、预训练 深度精讲
-
预训练是什么把海量公开无标注数据(网页、书籍、文章、开源代码)喂给模型,让模型自己自学:语法、常识、逻辑、代码写法、人类说话习惯。
-
核心特点
- 不需要人工给答案标注
- 海量数据、全网通识内容
- 目的:先把模型练成什么都懂的基础学霸
- 适用阶段所有大模型出厂前,必做预训练,没有预训练就没法用。
二、微调 Fine-tuning 讲透
-
微调是什么在已经预训练好的模型基础上,用少量、精准、有标注的专业数据,专门教它做某一件事。
-
通俗举例
- 通用大模型 → 微调成「前端代码专用模型」
- 通用大模型 → 微调成「企业客服问答模型」
- 核心区别一句话预训练是上通识大班课,微调是报专业小班特训。
三、提示词 Prompt 真正作用
-
不用改模型权重、不用重新训练、不用微调只靠人为文字指令,就能临时控制模型:角色、语气、格式、思路、输出风格。
-
前端日常用途写 Vue 组件、查 bug、优化代码、写接口注释、写文档、面试刷题。
四、三者关系必考(必背)
预训练:打底子微调:定专业方向Prompt:临时指挥干活
不用改模型 → 用 Prompt要固定专业能力 → 用微调模型从零懂事 → 靠预训练
五、零样本 / 少样本 通俗理解
-
零样本不给任何例子,直接发指令,模型就能直接做。例:直接说「帮我写一个 Vue3 弹窗组件」
-
少样本 Few-Shot给1~3 个示例,照着示例格式和逻辑,让模型模仿生成。工作里常用:让模型按指定 JSON 格式输出、按固定模板写代码。
六、今日必背核心总结
- 预训练:海量无标注数据,模型自学通识打底。
- 微调:少量专业标注数据,定向训练专属场景能力。
- Prompt:不改模型,靠文字指令临时控制输出。
- 三者顺序:先预训练 → 再微调 → 日常用 Prompt 调用。
- 零样本不给例子直接做;少样本给示例让模型模仿。
更多推荐

所有评论(0)