大模型few shot--与微调的选型决策

目录
摘要
少样本与微调不是二选一,是覆盖不同成本收益区间的两条互补路线。本文从权重更新方式、生效时效、数据需求等五个维度做量化对比,给出从少样本升级到微调的三个触发信号(成本、能力、稳定性),以及"高频头部任务下沉到权重、长尾任务留在上下文"的混合架构,文末附完整的选型决策树与实验代码。
1. 两条路线的本质区别
1.1 改变权重 vs 改变输入
少样本和微调的本质区别只有一句话:少样本改变输入序列,微调改变模型权重。前者的效果随请求生灭(单次请求有效),后者的效果写进参数(跨请求持久)。这个区别衍生出所有后续的工程差异。
图:两条路线的作用位置
图下解读:两条路线不是竞争关系,是工具箱里的两种不同工具。少样本是"每次带上教材的考试",微调是"提前学完的考试"。前者灵活但每次付 token 成本,后者一次投入但更新迭代慢。
1.2 生效时效的差异
| 维度 | 少样本 | 微调 |
|---|---|---|
| 生效速度 | 秒级(改提示词即生效) | 小时到天级(需训练) |
| 持续时间 | 单次请求 | 永久(直到下次微调) |
| 撤销成本 | 删掉示例即回退 | 需回滚到上一个检查点 |
| 迭代频率 | 每天可以改十次 | 每周一次是极限 |
第四行的差异最关键:少样本允许高频试错(今天试三种排列明天换示例),微调的迭代周期以周计。任务定义还在探索阶段时,少样本的试错速度是核心优势;任务定义稳定后,微调的一次性投入换来的是持续免 token。
1.3 类比:寄宿 vs 走读
两条路线的区别可以用教育类比理解。少样本是走读:每次上课自带教材(示例),下课教材带走,下次可以换新教材。微调是寄宿:知识直接装进了脑子(权重),不需要每次带教材,但换脑子里的知识(重新微调)比换教材慢几个量级。
走读的适用场景是课程经常换(任务定义不稳定),寄宿的适用场景是课程固定但要长期上(任务稳定且请求量大)。判断你的产品属于哪类,就能直接得出路线选择。
2. 少样本的优势与极限
2.1 少样本的三个优势
第一,零训练成本。不需要 GPU、不需要训练数据集管理、不需要训练脚本。一条示例写好就生效,删掉就失效。对于验证阶段的需求(“这个模型能不能做这个任务”),少样本是最低成本的测试工具。
第二,任务切换即时。同一个模型实例,换一套提示词就能做不同任务。客服助手在午高峰用三条退款示例,切到晚高峰换三条物流示例,秒级切换不需要重新部署。
第三,效果可归因。少样本的效果变化可以精确追溯到某条示例的增删或排列调整。微调的效果变化归因困难得多(训练数据、超参、随机种子都在影响)。
2.2 少样本的三个极限
第一,能力上限受模型约束。少样本只能激活模型已有的能力,不能创造新能力。如果模型在预训练中没见过某类推理模式,给再多示例也学不会。微调可以在这个场景注入新的行为模式。
第二,每次请求都要付 token 成本。三条示例约一百到两百 token,日请求一百万次,每天多花一到两亿 token 的费用。这个经常性成本随请求量线性增长,超过某个阈值后,一次微调的固定成本反而更便宜。
第三,示例数量受注意力窗口约束。八条示例是上限(第 2 篇的注意力稀释结论),超出后效果不升反降。任务需要覆盖十种以上的输入模式时,少样本的容量不够。
| 极限 | 具体表现 | 微调能否解决 |
|---|---|---|
| 能力上限 | 模型做不到的事示例教不会 | 是 |
| token 成本 | 示例的经常性开销 | 是 |
| 示例容量 | 最多八条有效示例 | 是 |
图:少样本的三个优势与三个极限
图下解读:三个极限全部可以被微调解决,这是考虑升级路线的出发点。但三个优势也是微调不具备的。
2.3 极限的突破顺序
三个极限的严重程度不同,突破的优先级也不同。token成本是最容易量化的极限(直接算钱),能力天花板最难突破(需要评估换模型还是微调),示例容量介于两者之间。
| 极限 | 严重程度 | 突破难度 | 首选方案 |
|---|---|---|---|
| token成本 | 随请求量线性增长 | 低(算出交叉点) | 微调 |
| 能力天花板 | 任务依赖 | 高(需实验验证) | 换模型或微调 |
| 示例容量 | 任务依赖 | 中(可拆任务) | 拆分或微调 |
第一个极限的突破决策最快:算出交叉点天数,超过产品生命周期就不动,不超过就启动微调评估。后两个极限需要实验数据支撑,不能靠直觉判断。
3. 微调的优势与成本
3.1 微调的核心价值
微调的核心价值是把"每次请求都要带的教材"变成"已经学会的知识"。三个直接收益:输入 token 减少(示例不再需要每次发送)、响应速度提升(不需要处理示例的注意力开销)、输出格式更稳定(权重级锚定比上下文锚定更强)。
图:微调前后的成本结构变化
图下解读:微调把示例的边际成本从每次请求降低到零。当请求量足够大时,节省的 token 费用超过微调的一次性训练成本,两条线在此交叉。
3.2 微调的隐性成本
| 成本项 | 说明 | 量级 |
|---|---|---|
| 数据准备 | 清洗标注一到五千条样本 | 一到两周 |
| 训练资源 | LoRA 单卡,全参多卡 | 数十到数百元 |
| 评测验证 | 训前训后各一轮 | 一到两天 |
| 部署维护 | 模型版本管理与回滚 | 持续 |
最大的隐性成本在最后一行:微调模型上线后,每次换基座模型都要重新微调。如果基座每季度升级一次,微调的维护频率也是每季度一次。少样本方案换基座只需要重新跑一遍示例验证。
3.3 微调的可逆性问题
微调的另一个隐性约束是可逆性差。少样本的任何变更(加示例、删示例、换排列)都可以秒级回退。微调模型的回退需要加载上一个检查点,涉及模型文件的切换与服务的重启,分钟级到小时级。
更麻烦的是"部分回退":如果微调后发现在某个子任务上效果退化了,没有办法只回退那个子任务的行为。要么整体回退(丢掉其他子任务的改进),要么增量再微调(修补这个子任务,但可能影响其他子任务)。少样本没有这个问题——每条示例独立可控,某条有问题删掉它即可。
| 操作 | 少样本回退 | 微调回退 |
|---|---|---|
| 整体回退 | 删提示词 | 切换检查点 |
| 部分回退 | 删一条示例 | 无法精确回退 |
| 回退耗时 | 秒级 | 分钟到小时 |
| 回退精度 | 精确到单条 | 只能整体回退 |
4. 五个维度的量化对比
4.1 对比总表
| 维度 | 少样本 | 微调(LoRA) |
|---|---|---|
| 效果上限 | 模型已有能力天花板 | 可突破天花板(注入新行为) |
| 每次请求成本 | 多一百到五百 token | 零额外 token |
| 一次性成本 | 零 | 训练加数据约一到两周 |
| 迭代速度 | 分钟级 | 天到周级 |
| 换模型迁移 | 重跑示例验证即可 | 需重新微调 |
| 数据需求 | 三到八条示例 | 一千到五千条样本 |
| 部署复杂度 | 零(改提示词) | 需要模型管理 |
这张对比表的使用方法不是逐行打分选总分高的,而是识别哪几行对你的业务是决定性因素。请求量大的团队看"每次请求成本"和"一次性成本"两行的交叉计算,探索阶段的团队看"迭代速度"和"部署复杂度",合规敏感的团队看"换模型迁移"(微调模型的审计比提示词复杂一个量级)。确定了决定性因素后,其他行作为参考而非否决条件。
表还有一个行容易被忽略:数据需求。少样本只需要三到八条示例,一个产品经理半小时就能写完。微调需要一千到五千条标注样本,这不是"写"出来的而是"采集加标注"出来的,涉及数据管道、标注工具、质检流程。很多团队低估了这个差距,以为"找一些数据训一下"就够了,实际执行时发现数据准备占了整个微调项目的一半以上时间。
4.2 token 成本的交叉点
两条路线的 token 成本有一个交叉点,可以通过以下公式估算:
少样本额外token成本 = 日请求量 × 每请求示例token × 单价
微调一次性成本 = 数据准备 + 训练 + 评测(折算为金额)
交叉点天数 = 微调一次性成本 / 少样本每日额外成本
以典型参数代入:日请求一百万次,示例三百 token,单价每百万 token 一元。少样本每日额外成本 = 1,000,000 × 300 / 1,000,000 × 1 = 三百元/天。微调一次性成本约五千元。交叉点 = 5000 / 300 ≈ 十七天。十七天后微调更便宜。
| 日请求量 | 示例token | 每日少样本额外成本 | 微调回本周期 |
|---|---|---|---|
| 十万 | 300 | 30元 | 约五个月 |
| 一百万 | 300 | 300元 | 约十七天 |
| 一千万 | 300 | 3000元 | 约两天 |
结论:日均请求低于十万时,微调的回本周期太长(超过产品迭代周期),少样本是更合理的选择。日均百万以上,微调在成本上就站得住。
交叉点计算还有一个隐性变量:微调本身的维护成本。上面算的是一次性投入的回本,但微调模型上线后每季度需要一轮维护(换基座重训、数据补充、评测回归),每轮约两到三天人力。折算到日均成本里,相当于每天额外十到三十元。这个维护成本把交叉点往后推了三到五天,在十万级请求量下推得更远(可能把"约五个月"推到"永远回不了本")。因此十万级以下的判断更加确定:少样本是正确选择,不需要犹豫。
图:token成本的交叉点计算
图下解读:交叉点在日请求十万到百万之间,低于十万微调回本周期超过产品迭代周期。
5. 从少样本升级到微调的信号
5.1 三个触发信号
图:升级到微调的三个信号
图下解读:三个信号分别来自成本、能力、稳定性三个维度。任何一个触发就值得启动微调评估,两个以上同时出现就是明确的升级指令。
5.2 升级前必须先排除的三个假设
信号触发不等于立即启动微调,有三个 cheaper 的替代假设要先排除。
假设一:示例选得差。少样本效果不达标的第一嫌疑不是模型能力而是示例质量。跑一遍第 1 篇的跃迁曲线,确认已在最优示例配置下运行。如果曲线显示甜点处的准确率仍有提升空间,优化示例排列可能带来五到十个点,比微调便宜两个量级。
假设二:指令有歧义。指令的措辞与模型理解有偏差时,效果差的原因是指令而不是示例或模型。用第 1 篇的格式一致率测试排查:一致率低于七成说明指令歧义显著,先改指令再考虑其他方案。
假设三:评测集有噪声。评测集标签错误率超过一成时,少样本与微调的效果差距可能是噪声放大的假象。抽检二十条评测集,人工核对标签。错误率超过一成先修评测集再重跑对比。
三个假设全部排除后,信号触发的升级评估才有坚实的数据基础。跳过排除直接微调,最常见的后果是花了两周训练发现效果提升不到三个点——因为真正的瓶颈在示例质量或指令歧义上。
| 排除步骤 | 工具 | 时间成本 | 潜在收益 |
|---|---|---|---|
| 排除示例差 | 跃迁曲线 | 半小时 | +5到10个点 |
| 排除指令歧义 | 格式一致率 | 十分钟 | +3到5个点 |
| 排除评测噪声 | 人工抽检 | 一小时 | 消除假差距 |
5.2 信号的具体检测
# 来源:自实现 / upgrade_signals.py(微调升级信号检测)
import json
def check_upgrade_signals(metrics: dict) -> dict:
"""检测三个升级信号是否触发"""
signals = {}
# 信号一:token成本
daily_cost = metrics.get("daily_example_token_cost", 0)
revenue = metrics.get("daily_revenue", 1)
signals["cost"] = daily_cost / revenue > 0.01
# 信号二:能力天花板
repeat_errors = metrics.get("repeated_error_rate", 0)
signals["capability"] = repeat_errors > 0.15
# 信号三:稳定性
format_consistency = metrics.get("format_consistency", 1.0)
signals["stability"] = format_consistency < 0.85
triggered = sum(signals.values())
return {"signals": signals,
"triggered_count": triggered,
"recommendation": "upgrade" if triggered >= 2
else "monitor" if triggered == 1
else "stay"}
if __name__ == "__main__":
m = {"daily_example_token_cost": 350,
"daily_revenue": 20000,
"repeated_error_rate": 0.12,
"format_consistency": 0.92}
result = check_upgrade_signals(m)
print(json.dumps(result, indent=2, ensure_ascii=False))
源码说明:三个信号用三个指标量化:示例 token 成本占收入比例超过百分之一、同类错误反复出现超过百分之十五、格式一致率低于八成五。两个以上同时触发即建议启动微调评估。
信号检测的运行节奏也要固定。三个信号的指标不是拍脑袋得到的,需要持续采集。成本指标从日志系统自动统计,能力指标需要人工标注抽样(每周五十条),稳定性指标由采样脚本自动跑。三个指标三个采集通道,最终在同一个面板上汇合,面板每周出一次结论:继续观望还是启动评估。
启动微调评估后还有一个回退锚点:如果微调后的模型在评测集上没有超过少样本基线五个百分点以上,微调的投入不值得,回退到少样本方案。这个五百分点的门槛不是随意定的——微调的一次性投入约两到五人天,五个百分点以下的提升用少样本优化手段(换示例、调排列、加思维链)通常也能达到,不需要动用训练资源。
6. 混合策略:两层并存的架构
6.1 头部下沉、长尾保留
生产系统中最常见的不是二选一,而是两层并存:高频头部任务(占请求量八成的少数任务类型)微调到权重,低频长尾任务(占两成请求量的大量任务类型)保留少样本。这样微调的投入集中在 ROI 最高的头部,长尾的灵活性由少样本保障。
图:混合架构的任务分层
图下解读:左侧是已经稳定且高频的任务(微调的甜点),右侧是还在变化或低频的任务(少样本的甜点)。路由层按任务类型分发到不同的处理路径。
6.2 微调与少样本的叠加效果
微调后的模型仍然可以用少样本。叠加的效果通常是:微调解决了格式与基础口径(权重级锚定),少样本在此基础上做微调(覆盖微调数据没见过的边界案例)。两者不是互斥的,是互补的。
| 配置 | 格式稳定性 | 口径覆盖 | token成本 |
|---|---|---|---|
| 仅少样本 | 中 | 示例覆盖范围 | 每次付 |
| 仅微调 | 高 | 训练数据覆盖范围 | 零 |
| 微调+少量示例 | 最高 | 两者取并集 | 少量(一到两条) |
第三行的配置是生产中的常见终点形态:微调后的模型配一到两条最关键示例,格式靠权重稳定、边界靠示例锚定,token 成本降到最低。
6.3 混合架构的路由层设计
两层并存需要一个路由层决定每条请求走微调路径还是少样本路径。路由的依据是任务类型:已知的高频任务走微调,未覆盖的新任务走少样本。
路由的实现有轻重两档。轻量版用关键词匹配或简单分类器,在网关层毫秒级完成路由。重量版用嵌入检索做任务分类(与第 7 篇的动态示例检索共享基础设施),判断当前查询与哪个已微调的任务最相似,相似度超过阈值走微调路径,否则走少样本兜底。
| 路由方案 | 延迟 | 准确率 | 基础设施 |
|---|---|---|---|
| 关键词匹配 | 微秒级 | 低到中 | 零 |
| 分类器 | 毫秒级 | 中到高 | 标注数据 |
| 嵌入检索 | 十毫秒级 | 高 | 向量库 |
路由层还有一个隐性价值:路由日志记录了每条请求的任务类型,这些日志是后续"哪些任务该下沉到微调"的数据来源。当日志显示某类长尾任务的请求量增长到头部水平时,就是启动下一轮微调的信号。路由层既是执行组件也是感知组件。
7. 选型决策树
7.1 完整决策树
图:少样本与微调的选型决策树
图下解读:决策树的三个分叉点分别对应请求量、效果、成本。日均请求低于十万直接走少样本(微调回本周期太长),高于十万再看效果是否达标。
7.2 决策表的速查版
| 场景 | 推荐 | 理由 |
|---|---|---|
| 探索验证阶段 | 少样本 | 零成本快速试错 |
| 日均低于十万请求 | 少样本 | 微调回本太慢 |
| 日均百万以上,格式要求高 | 微调 | 成本交叉+权重级稳定 |
| 日均百万以上,任务多变 | 少样本 | 微调维护跟不上任务变化 |
| 高频头部加长尾 | 混合 | 头部下沉长尾保留 |
| 已微调的模型 | 微调加少量示例 | 叠加最优 |
7.3 决策的常见误判
第一个误判是"效果不够就微调"。少样本效果不达标的原因有很多,微调只解决其中一种(模型能力不足)。如果原因是示例选得差或排列不对,微调也救不了,白白花了一到两周。正确的顺序:先优化示例(选择、排序、格式三个维度全过一遍),确认少样本已到上限再考虑微调。
第二个误判是"微调了就不需要示例"。微调后的模型确实不再需要格式示例,但边界案例的示例仍然有价值。微调数据的分布覆盖不到线上所有边缘情况,一到两条边界示例作为兜底,成本低收益明确。
第三个误判是"回了本就该微调"。成本交叉点只是必要条件,不是充分条件。还需要考虑团队能力:有没有人能维护训练管线、有没有评测集来验证微调效果、有没有模型版本管理的基础设施。三个都没有时,即使成本上微调更便宜,执行上也会翻车。先补基础设施再启动微调,磨刀不误砍柴工。
8. 实战:选型实验的完整流程
8.1 三步实验法
图:选型实验的三步流程
图下解读:两个判断维度——效果提升(准确率差五个点以上)和成本节省(token 节省折算金额超过微调成本)。任一维度达标即选微调,都不达标保持少样本。
8.2 实验的常见陷阱
| 陷阱 | 后果 | 预防 |
|---|---|---|
| 评测集与训练数据重叠 | 微调分数虚高 | 严格分割 |
| 少样本基线未优化 | 不公平对比 | 基线用最优示例排列 |
| 只看准确率不看延迟 | 微调可能更慢 | 同时记录首token延迟 |
第二个陷阱最常见:比较"三条随机示例的少样本"和"精心训练的微调",结论显然偏向微调。公平的比较应该让少样本基线也用最优配置(精选示例、最优排列、动态检索),此时两条路线的差距才是真实的差距。
第三个陷阱在微调后容易被忽略:微调模型的推理可能因为权重变化而变慢(破坏了推理引擎的某些优化路径),首 token 延迟增加百分之十到二十并不罕见。延迟上升在评测报告中体现不出来,只有线上真实流量才能暴露。因此对比实验除了跑评测集,还应该做一次延迟基准测试。
# 来源:自实现 / selection_experiment.py(选型对比实验)
import json
def run_selection_experiment(model, train_data: list,
eval_cases: list,
few_shot_examples: list) -> dict:
"""少样本 vs LoRA微调 的完整对比"""
# 第一步:少样本基线
few_acc = evaluate_few_shot(model, few_shot_examples, eval_cases)
few_tokens = count_tokens(few_shot_examples) * len(eval_cases)
# 第二步:LoRA微调(此处模拟,实际用第2篇的训练代码)
tuned_model = quick_lora(model, train_data)
tuned_acc = evaluate_zero_shot(tuned_model, eval_cases)
tuned_tokens = 0 # 微调后不需要示例token
# 第三步:对比
return {
"few_shot": {"acc": few_acc, "tokens": few_tokens},
"fine_tuned": {"acc": tuned_acc, "tokens": tuned_tokens},
"acc_gain": round(tuned_acc - few_acc, 3),
"token_saved": few_tokens,
"recommendation": "fine_tune" if tuned_acc - few_acc > 0.05
else "few_shot",
}
def evaluate_few_shot(model, examples, cases):
ok = sum(1 for c in cases
if model(build_prompt("", examples, c["input"])).strip()
== c["want"])
return ok / len(cases)
def evaluate_zero_shot(model, cases):
ok = sum(1 for c in cases
if model(c["input"]).strip() == c["want"])
return ok / len(cases)
if __name__ == "__main__":
result = run_selection_experiment(
model, TRAIN_DATA, EVAL_CASES, FEW_SHOT_EXAMPLES)
print(json.dumps(result, indent=2, ensure_ascii=False))
源码说明:run_selection_experiment 输出两条路线的准确率与 token 消耗对比。quick_lora 用第 2 篇的训练代码(此处省略实现)。整个实验的成本是一轮微调训练加两轮评测,约半天到一天。
实验的启动门槛也值得明确:什么条件才值得花半天到一天做这个实验。三个门槛条件至少满足两个才启动。第一,日均请求超十万(成本维度的必要条件)。第二,少样本已优化到上限(跃迁曲线的甜点处准确率不再提升)。第三,团队有训练基础设施或愿意花一天搭建(LoRA 加单卡是最小配置)。
三个条件都不满足时,实验本身就是在浪费资源。三个都满足时,半天实验的产出直接决定未来数月的架构选择,投入产出比明确。
8.2 实验的常见陷阱
| 陷阱 | 后果 | 预防 |
|---|---|---|
| 评测集与训练数据重叠 | 微调分数虚高 | 严格分割 |
| 少样本基线未优化 | 不公平对比 | 基线用最优示例排列 |
| 只看准确率不看延迟 | 微调可能更慢 | 同时记录首token延迟 |
第二个陷阱最常见:比较"三条随机示例的少样本"和"精心训练的微调",结论显然偏向微调。公平的比较应该让少样本基线也用最优配置(精选示例、最优排列、动态检索),此时两条路线的差距才是真实的差距。
8.3 发布后的共存监控
混合架构上线后,监控两条路径的健康度:
| 路径 | 监控指标 | 告警线 |
|---|---|---|
| 微调路径 | 格式一致率 | 低于九成五 |
| 微调路径 | 通用能力回测 | 掉点超三个百分点 |
| 少样本路径 | 示例命中率 | 低于八成 |
| 少样本路径 | token 成本趋势 | 月环比涨超两成 |
微调路径的第二项指标最关键:微调可能解决了一批问题又引入了另一批(灾难性遗忘),通用能力回测是唯一的哨兵。
混合架构还有一个特有的监控需求:两条路径之间的流量比例变化。正常情况下头部任务占八成长尾占两成,如果长尾占比持续上升(超过三成),说明新的任务类型在涌现,其中日请求量大的新任务应该评估是否下沉到微调层。流量结构的变化是架构演进的早期信号,比等某个单项指标报警更主动。
8.4 混合架构的演进周期
混合架构不是一次性建设的产物,是逐步演进的结果。典型的演进路径分四步:起步期全部用少样本(验证产品方向),成长期高频任务开始微调(成本驱动),成熟期两层并存加动态路由(自动化),优化期路由层的数据反馈驱动新一轮下沉(数据驱动)。
| 阶段 | 少样本占比 | 微调占比 | 驱动因素 |
|---|---|---|---|
| 起步 | 百分之百 | 零 | 产品方向未定 |
| 成长 | 八成 | 两成 | 头部任务请求量到门槛 |
| 成熟 | 六到八成 | 二到四成 | 路由自动化 |
| 优化 | 持续调整 | 持续调整 | 数据反馈 |
每一步的升级决策都由前一步的数据驱动,不需要提前规划全部四个阶段。起步期的团队不必担心"以后要微调怎么办",少样本的投入(示例池、评测集、格式工具)在微调后全部复用,没有浪费。
8.5 混合架构的路由日志分析
路由层的日志是架构演进最有价值的数据源。每周对日志做一次结构分析,产出三个数字:各任务的请求量排名、请求量增长最快的新任务、长尾任务的总占比变化趋势。
第一个数字决定哪些任务值得微调(排名前几的任务覆盖了八成流量)。第二个数字发现正在崛起的新任务(某类查询从日均一百涨到一千,是微调的候选信号)。第三个数字判断架构是否需要调整(长尾占比持续上升说明新任务在涌现,路由规则需要更新)。
三个数字合在一起,把"什么时候该微调下一个任务"从感觉驱动变成了数据驱动。路由日志分析脚本二十行,每周跑一次,是混合架构持续运营的最小工具集。日志分析的产出直接写进下一轮微调的立项文档,数据链条从线上流量到架构决策一气贯通。
路由日志还有一个隐性价值:它是示例池更新的信号源。路由到少样本路径的请求里,命中检索的示例与未命中(退回默认)的比例,反映了示例池对当前流量的覆盖度。命中率持续低于八成说明池子需要扩充,扩充的方向从日志中被退回的请求聚类即可得到——聚类结果就是"用户在问什么而示例池没覆盖"的直接答案。
示例池的扩充还有一个优先级排序:按退回请求的频次从高到低补。频次最高的未覆盖类型优先补入示例池,因为一条新示例覆盖的是最多次被退回的那类查询。频次低于日均十次的未覆盖类型可以暂缓,等积累到有足够量再补。
补入的示例也要过质检:新补的示例不能只看"覆盖了这个类型",还要看输入是否简洁(一百字符以内)、输出是否明确(单标签)、标签是否正确(人工核对)。跳过质检直接从日志中复制原始问答对入池,最常见的后果是引入了含个人信息或格式混乱的示例,反而拉低了整个池子的质量。质检通过后按第 5 篇的格式同构检查器跑一遍,确保新补的条目与现有池子的格式逐字符一致,避免一条不合格的示例破坏整个池子的同构性。
这个"日志分析到示例补入到格式检查到发布"的闭环,是混合架构在少样本侧的持续运营全部流程。整条链路可以浓缩为一张周报:本周退回率、新增示例数、格式检查通过率、下周待补方向。四个数字加上一句结论,就是少样本路径的完整健康报告。
总结
少样本与微调的本质区别在作用位置:改输入还是改权重。少样本的优势是零训练成本、秒级切换、效果可归因,极限是能力天花板、经常性 token 成本、八条示例的注意力上限。微调把示例效果写入权重,边际 token 成本归零,但一次性投入一到两周、换模型需重训。token 成本的交叉点在日请求十万到百万之间,低于十万少样本永远是更经济的选择。生产最优解是两层并存:高频头部任务微调下沉,长尾任务少样本保留,微调后的模型配一到两条边界示例取两者之长。升级前先排除示例质量、指令歧义、评测噪声三个 cheaper 假设,微调后的模型仍配少量示例取叠加最优。架构从少样本起步逐步演进到混合,路由层日志是每一步升级决策的数据来源。
外部引用
- GPT-3 论文《Language Models are Few-Shot Learners》:https://arxiv.org/abs/2005.14165
- InstructGPT 论文《Training language models to follow instructions with human feedback》:https://arxiv.org/abs/2203.02155
- LoRA 论文《LoRA: Low-Rank Adaptation of Large Language Models》:https://arxiv.org/abs/2106.09685
- LIMA 论文《Less Is More for Alignment》:https://arxiv.org/abs/2305.11206
- Min 等《Rethinking the Role of Demonstrations》:https://arxiv.org/abs/2202.13437
- Liu 等《What Makes Good In-Context Examples for GPT-3?》:https://arxiv.org/abs/2101.06804
- Mosbach 等《On the Stability of Fine-tuning BERT》:https://arxiv.org/abs/2006.04884
- Hugging Face PEFT 文档:https://huggingface.co/docs/peft/index
更多推荐


所有评论(0)