在这里插入图片描述

目录

  1. 两条路线的本质区别
  2. 少样本的优势与极限
  3. 微调的优势与成本
  4. 五个维度的量化对比
  5. 从少样本升级到微调的信号
  6. 混合策略:两层并存的架构
  7. 选型决策树
  8. 实战:选型实验的完整流程

摘要

少样本与微调不是二选一,是覆盖不同成本收益区间的两条互补路线。本文从权重更新方式、生效时效、数据需求等五个维度做量化对比,给出从少样本升级到微调的三个触发信号(成本、能力、稳定性),以及"高频头部任务下沉到权重、长尾任务留在上下文"的混合架构,文末附完整的选型决策树与实验代码。

1. 两条路线的本质区别

1.1 改变权重 vs 改变输入

少样本和微调的本质区别只有一句话:少样本改变输入序列,微调改变模型权重。前者的效果随请求生灭(单次请求有效),后者的效果写进参数(跨请求持久)。这个区别衍生出所有后续的工程差异。

图:两条路线的作用位置

任务适配需求

少样本路线

微调路线

改输入序列 不动权重

效果随请求生效随请求消失

改权重参数

效果持久写入模型

图下解读:两条路线不是竞争关系,是工具箱里的两种不同工具。少样本是"每次带上教材的考试",微调是"提前学完的考试"。前者灵活但每次付 token 成本,后者一次投入但更新迭代慢。

1.2 生效时效的差异

维度少样本微调
生效速度秒级(改提示词即生效)小时到天级(需训练)
持续时间单次请求永久(直到下次微调)
撤销成本删掉示例即回退需回滚到上一个检查点
迭代频率每天可以改十次每周一次是极限

第四行的差异最关键:少样本允许高频试错(今天试三种排列明天换示例),微调的迭代周期以周计。任务定义还在探索阶段时,少样本的试错速度是核心优势;任务定义稳定后,微调的一次性投入换来的是持续免 token。

1.3 类比:寄宿 vs 走读

两条路线的区别可以用教育类比理解。少样本是走读:每次上课自带教材(示例),下课教材带走,下次可以换新教材。微调是寄宿:知识直接装进了脑子(权重),不需要每次带教材,但换脑子里的知识(重新微调)比换教材慢几个量级。

走读的适用场景是课程经常换(任务定义不稳定),寄宿的适用场景是课程固定但要长期上(任务稳定且请求量大)。判断你的产品属于哪类,就能直接得出路线选择。

2. 少样本的优势与极限

2.1 少样本的三个优势

第一,零训练成本。不需要 GPU、不需要训练数据集管理、不需要训练脚本。一条示例写好就生效,删掉就失效。对于验证阶段的需求(“这个模型能不能做这个任务”),少样本是最低成本的测试工具。

第二,任务切换即时。同一个模型实例,换一套提示词就能做不同任务。客服助手在午高峰用三条退款示例,切到晚高峰换三条物流示例,秒级切换不需要重新部署。

第三,效果可归因。少样本的效果变化可以精确追溯到某条示例的增删或排列调整。微调的效果变化归因困难得多(训练数据、超参、随机种子都在影响)。

2.2 少样本的三个极限

第一,能力上限受模型约束。少样本只能激活模型已有的能力,不能创造新能力。如果模型在预训练中没见过某类推理模式,给再多示例也学不会。微调可以在这个场景注入新的行为模式。

第二,每次请求都要付 token 成本。三条示例约一百到两百 token,日请求一百万次,每天多花一到两亿 token 的费用。这个经常性成本随请求量线性增长,超过某个阈值后,一次微调的固定成本反而更便宜。

第三,示例数量受注意力窗口约束。八条示例是上限(第 2 篇的注意力稀释结论),超出后效果不升反降。任务需要覆盖十种以上的输入模式时,少样本的容量不够。

极限具体表现微调能否解决
能力上限模型做不到的事示例教不会是
token 成本示例的经常性开销是
示例容量最多八条有效示例是

图:少样本的三个优势与三个极限

少样本

优势

极限

零训练成本

任务切换即时

效果可归因

能力受模型约束

token经常性成本

示例最多八条

图下解读:三个极限全部可以被微调解决,这是考虑升级路线的出发点。但三个优势也是微调不具备的。

2.3 极限的突破顺序

三个极限的严重程度不同,突破的优先级也不同。token成本是最容易量化的极限(直接算钱),能力天花板最难突破(需要评估换模型还是微调),示例容量介于两者之间。

极限严重程度突破难度首选方案
token成本随请求量线性增长低(算出交叉点)微调
能力天花板任务依赖高(需实验验证)换模型或微调
示例容量任务依赖中(可拆任务)拆分或微调

第一个极限的突破决策最快:算出交叉点天数,超过产品生命周期就不动,不超过就启动微调评估。后两个极限需要实验数据支撑,不能靠直觉判断。

3. 微调的优势与成本

3.1 微调的核心价值

微调的核心价值是把"每次请求都要带的教材"变成"已经学会的知识"。三个直接收益:输入 token 减少(示例不再需要每次发送)、响应速度提升(不需要处理示例的注意力开销)、输出格式更稳定(权重级锚定比上下文锚定更强)。

图:微调前后的成本结构变化

少样本模式

每次输入 = 指令 + 示例 + 查询

微调模式

每次输入 = 指令 + 查询

示例token是经常性成本

示例效果写入权重 零边际成本

图下解读:微调把示例的边际成本从每次请求降低到零。当请求量足够大时,节省的 token 费用超过微调的一次性训练成本,两条线在此交叉。

3.2 微调的隐性成本

成本项说明量级
数据准备清洗标注一到五千条样本一到两周
训练资源LoRA 单卡,全参多卡数十到数百元
评测验证训前训后各一轮一到两天
部署维护模型版本管理与回滚持续

最大的隐性成本在最后一行:微调模型上线后,每次换基座模型都要重新微调。如果基座每季度升级一次,微调的维护频率也是每季度一次。少样本方案换基座只需要重新跑一遍示例验证。

3.3 微调的可逆性问题

微调的另一个隐性约束是可逆性差。少样本的任何变更(加示例、删示例、换排列)都可以秒级回退。微调模型的回退需要加载上一个检查点,涉及模型文件的切换与服务的重启,分钟级到小时级。

更麻烦的是"部分回退":如果微调后发现在某个子任务上效果退化了,没有办法只回退那个子任务的行为。要么整体回退(丢掉其他子任务的改进),要么增量再微调(修补这个子任务,但可能影响其他子任务)。少样本没有这个问题——每条示例独立可控,某条有问题删掉它即可。

操作少样本回退微调回退
整体回退删提示词切换检查点
部分回退删一条示例无法精确回退
回退耗时秒级分钟到小时
回退精度精确到单条只能整体回退

4. 五个维度的量化对比

4.1 对比总表

维度少样本微调(LoRA)
效果上限模型已有能力天花板可突破天花板(注入新行为)
每次请求成本多一百到五百 token零额外 token
一次性成本零训练加数据约一到两周
迭代速度分钟级天到周级
换模型迁移重跑示例验证即可需重新微调
数据需求三到八条示例一千到五千条样本
部署复杂度零(改提示词)需要模型管理

这张对比表的使用方法不是逐行打分选总分高的,而是识别哪几行对你的业务是决定性因素。请求量大的团队看"每次请求成本"和"一次性成本"两行的交叉计算,探索阶段的团队看"迭代速度"和"部署复杂度",合规敏感的团队看"换模型迁移"(微调模型的审计比提示词复杂一个量级)。确定了决定性因素后,其他行作为参考而非否决条件。

表还有一个行容易被忽略:数据需求。少样本只需要三到八条示例,一个产品经理半小时就能写完。微调需要一千到五千条标注样本,这不是"写"出来的而是"采集加标注"出来的,涉及数据管道、标注工具、质检流程。很多团队低估了这个差距,以为"找一些数据训一下"就够了,实际执行时发现数据准备占了整个微调项目的一半以上时间。

4.2 token 成本的交叉点

两条路线的 token 成本有一个交叉点,可以通过以下公式估算:

少样本额外token成本 = 日请求量 × 每请求示例token × 单价
微调一次性成本 = 数据准备 + 训练 + 评测(折算为金额)
交叉点天数 = 微调一次性成本 / 少样本每日额外成本

以典型参数代入:日请求一百万次,示例三百 token,单价每百万 token 一元。少样本每日额外成本 = 1,000,000 × 300 / 1,000,000 × 1 = 三百元/天。微调一次性成本约五千元。交叉点 = 5000 / 300 ≈ 十七天。十七天后微调更便宜。

日请求量示例token每日少样本额外成本微调回本周期
十万30030元约五个月
一百万300300元约十七天
一千万3003000元约两天

结论:日均请求低于十万时,微调的回本周期太长(超过产品迭代周期),少样本是更合理的选择。日均百万以上,微调在成本上就站得住。

交叉点计算还有一个隐性变量:微调本身的维护成本。上面算的是一次性投入的回本,但微调模型上线后每季度需要一轮维护(换基座重训、数据补充、评测回归),每轮约两到三天人力。折算到日均成本里,相当于每天额外十到三十元。这个维护成本把交叉点往后推了三到五天,在十万级请求量下推得更远(可能把"约五个月"推到"永远回不了本")。因此十万级以下的判断更加确定:少样本是正确选择,不需要犹豫。

图:token成本的交叉点计算

日请求10万

微调回本约5个月

日请求100万

微调回本约17天

日请求1000万

微调回本约2天

低于10万 选少样本

高于100万 微调划算

图下解读:交叉点在日请求十万到百万之间,低于十万微调回本周期超过产品迭代周期。

5. 从少样本升级到微调的信号

5.1 三个触发信号

图:升级到微调的三个信号

示例开销超收入百分之一

示例解决不了的错误反复出现

格式漂移或口径不稳

少样本运行中

信号一:token成本

信号二:能力天花板

信号三:稳定性不足

升级微调

图下解读:三个信号分别来自成本、能力、稳定性三个维度。任何一个触发就值得启动微调评估,两个以上同时出现就是明确的升级指令。

5.2 升级前必须先排除的三个假设

信号触发不等于立即启动微调,有三个 cheaper 的替代假设要先排除。

假设一:示例选得差。少样本效果不达标的第一嫌疑不是模型能力而是示例质量。跑一遍第 1 篇的跃迁曲线,确认已在最优示例配置下运行。如果曲线显示甜点处的准确率仍有提升空间,优化示例排列可能带来五到十个点,比微调便宜两个量级。

假设二:指令有歧义。指令的措辞与模型理解有偏差时,效果差的原因是指令而不是示例或模型。用第 1 篇的格式一致率测试排查:一致率低于七成说明指令歧义显著,先改指令再考虑其他方案。

假设三:评测集有噪声。评测集标签错误率超过一成时,少样本与微调的效果差距可能是噪声放大的假象。抽检二十条评测集,人工核对标签。错误率超过一成先修评测集再重跑对比。

三个假设全部排除后,信号触发的升级评估才有坚实的数据基础。跳过排除直接微调,最常见的后果是花了两周训练发现效果提升不到三个点——因为真正的瓶颈在示例质量或指令歧义上。

排除步骤工具时间成本潜在收益
排除示例差跃迁曲线半小时+5到10个点
排除指令歧义格式一致率十分钟+3到5个点
排除评测噪声人工抽检一小时消除假差距

5.2 信号的具体检测

# 来源:自实现 / upgrade_signals.py(微调升级信号检测)
import json

def check_upgrade_signals(metrics: dict) -> dict:
    """检测三个升级信号是否触发"""
    signals = {}

    # 信号一:token成本
    daily_cost = metrics.get("daily_example_token_cost", 0)
    revenue = metrics.get("daily_revenue", 1)
    signals["cost"] = daily_cost / revenue > 0.01

    # 信号二:能力天花板
    repeat_errors = metrics.get("repeated_error_rate", 0)
    signals["capability"] = repeat_errors > 0.15

    # 信号三:稳定性
    format_consistency = metrics.get("format_consistency", 1.0)
    signals["stability"] = format_consistency < 0.85

    triggered = sum(signals.values())
    return {"signals": signals,
            "triggered_count": triggered,
            "recommendation": "upgrade" if triggered >= 2
                             else "monitor" if triggered == 1
                             else "stay"}

if __name__ == "__main__":
    m = {"daily_example_token_cost": 350,
         "daily_revenue": 20000,
         "repeated_error_rate": 0.12,
         "format_consistency": 0.92}
    result = check_upgrade_signals(m)
    print(json.dumps(result, indent=2, ensure_ascii=False))

源码说明:三个信号用三个指标量化:示例 token 成本占收入比例超过百分之一、同类错误反复出现超过百分之十五、格式一致率低于八成五。两个以上同时触发即建议启动微调评估。

信号检测的运行节奏也要固定。三个信号的指标不是拍脑袋得到的,需要持续采集。成本指标从日志系统自动统计,能力指标需要人工标注抽样(每周五十条),稳定性指标由采样脚本自动跑。三个指标三个采集通道,最终在同一个面板上汇合,面板每周出一次结论:继续观望还是启动评估。

启动微调评估后还有一个回退锚点:如果微调后的模型在评测集上没有超过少样本基线五个百分点以上,微调的投入不值得,回退到少样本方案。这个五百分点的门槛不是随意定的——微调的一次性投入约两到五人天,五个百分点以下的提升用少样本优化手段(换示例、调排列、加思维链)通常也能达到,不需要动用训练资源。

6. 混合策略:两层并存的架构

6.1 头部下沉、长尾保留

生产系统中最常见的不是二选一,而是两层并存:高频头部任务(占请求量八成的少数任务类型)微调到权重,低频长尾任务(占两成请求量的大量任务类型)保留少样本。这样微调的投入集中在 ROI 最高的头部,长尾的灵活性由少样本保障。

图:混合架构的任务分层

全部任务

头部任务 80%请求量

长尾任务 20%请求量

微调到权重 零token成本

少样本动态覆盖

统一推理层

图下解读:左侧是已经稳定且高频的任务(微调的甜点),右侧是还在变化或低频的任务(少样本的甜点)。路由层按任务类型分发到不同的处理路径。

6.2 微调与少样本的叠加效果

微调后的模型仍然可以用少样本。叠加的效果通常是:微调解决了格式与基础口径(权重级锚定),少样本在此基础上做微调(覆盖微调数据没见过的边界案例)。两者不是互斥的,是互补的。

配置格式稳定性口径覆盖token成本
仅少样本中示例覆盖范围每次付
仅微调高训练数据覆盖范围零
微调+少量示例最高两者取并集少量(一到两条)

第三行的配置是生产中的常见终点形态:微调后的模型配一到两条最关键示例,格式靠权重稳定、边界靠示例锚定,token 成本降到最低。

6.3 混合架构的路由层设计

两层并存需要一个路由层决定每条请求走微调路径还是少样本路径。路由的依据是任务类型:已知的高频任务走微调,未覆盖的新任务走少样本。

路由的实现有轻重两档。轻量版用关键词匹配或简单分类器,在网关层毫秒级完成路由。重量版用嵌入检索做任务分类(与第 7 篇的动态示例检索共享基础设施),判断当前查询与哪个已微调的任务最相似,相似度超过阈值走微调路径,否则走少样本兜底。

路由方案延迟准确率基础设施
关键词匹配微秒级低到中零
分类器毫秒级中到高标注数据
嵌入检索十毫秒级高向量库

路由层还有一个隐性价值:路由日志记录了每条请求的任务类型,这些日志是后续"哪些任务该下沉到微调"的数据来源。当日志显示某类长尾任务的请求量增长到头部水平时,就是启动下一轮微调的信号。路由层既是执行组件也是感知组件。

7. 选型决策树

7.1 完整决策树

图:少样本与微调的选型决策树

否

是

是

否

是

否

是

否

新任务适配

日均请求超十万吗

少样本即可

少样本效果达标吗

保持少样本 监控成本

模型能力够但示例不够吗

优化示例选择与排列

微调或换更大模型

token成本超收入百分之一吗

启动微调评估

图下解读:决策树的三个分叉点分别对应请求量、效果、成本。日均请求低于十万直接走少样本(微调回本周期太长),高于十万再看效果是否达标。

7.2 决策表的速查版

场景推荐理由
探索验证阶段少样本零成本快速试错
日均低于十万请求少样本微调回本太慢
日均百万以上,格式要求高微调成本交叉+权重级稳定
日均百万以上,任务多变少样本微调维护跟不上任务变化
高频头部加长尾混合头部下沉长尾保留
已微调的模型微调加少量示例叠加最优

7.3 决策的常见误判

第一个误判是"效果不够就微调"。少样本效果不达标的原因有很多,微调只解决其中一种(模型能力不足)。如果原因是示例选得差或排列不对,微调也救不了,白白花了一到两周。正确的顺序:先优化示例(选择、排序、格式三个维度全过一遍),确认少样本已到上限再考虑微调。

第二个误判是"微调了就不需要示例"。微调后的模型确实不再需要格式示例,但边界案例的示例仍然有价值。微调数据的分布覆盖不到线上所有边缘情况,一到两条边界示例作为兜底,成本低收益明确。

第三个误判是"回了本就该微调"。成本交叉点只是必要条件,不是充分条件。还需要考虑团队能力:有没有人能维护训练管线、有没有评测集来验证微调效果、有没有模型版本管理的基础设施。三个都没有时,即使成本上微调更便宜,执行上也会翻车。先补基础设施再启动微调,磨刀不误砍柴工。

8. 实战:选型实验的完整流程

8.1 三步实验法

图:选型实验的三步流程

是

否

是

否

第一步:少样本基线

第二步:LoRA微调

第三步:对比评测

微调提升超五个点吗

选微调

保持少样本

微调token节省超成本吗

图下解读:两个判断维度——效果提升(准确率差五个点以上)和成本节省(token 节省折算金额超过微调成本)。任一维度达标即选微调,都不达标保持少样本。

8.2 实验的常见陷阱

陷阱后果预防
评测集与训练数据重叠微调分数虚高严格分割
少样本基线未优化不公平对比基线用最优示例排列
只看准确率不看延迟微调可能更慢同时记录首token延迟

第二个陷阱最常见:比较"三条随机示例的少样本"和"精心训练的微调",结论显然偏向微调。公平的比较应该让少样本基线也用最优配置(精选示例、最优排列、动态检索),此时两条路线的差距才是真实的差距。

第三个陷阱在微调后容易被忽略:微调模型的推理可能因为权重变化而变慢(破坏了推理引擎的某些优化路径),首 token 延迟增加百分之十到二十并不罕见。延迟上升在评测报告中体现不出来,只有线上真实流量才能暴露。因此对比实验除了跑评测集,还应该做一次延迟基准测试。

# 来源:自实现 / selection_experiment.py(选型对比实验)
import json

def run_selection_experiment(model, train_data: list,
                              eval_cases: list,
                              few_shot_examples: list) -> dict:
    """少样本 vs LoRA微调 的完整对比"""
    # 第一步:少样本基线
    few_acc = evaluate_few_shot(model, few_shot_examples, eval_cases)
    few_tokens = count_tokens(few_shot_examples) * len(eval_cases)

    # 第二步:LoRA微调(此处模拟,实际用第2篇的训练代码)
    tuned_model = quick_lora(model, train_data)
    tuned_acc = evaluate_zero_shot(tuned_model, eval_cases)
    tuned_tokens = 0  # 微调后不需要示例token

    # 第三步:对比
    return {
        "few_shot": {"acc": few_acc, "tokens": few_tokens},
        "fine_tuned": {"acc": tuned_acc, "tokens": tuned_tokens},
        "acc_gain": round(tuned_acc - few_acc, 3),
        "token_saved": few_tokens,
        "recommendation": "fine_tune" if tuned_acc - few_acc > 0.05
                         else "few_shot",
    }

def evaluate_few_shot(model, examples, cases):
    ok = sum(1 for c in cases
             if model(build_prompt("", examples, c["input"])).strip()
             == c["want"])
    return ok / len(cases)

def evaluate_zero_shot(model, cases):
    ok = sum(1 for c in cases
             if model(c["input"]).strip() == c["want"])
    return ok / len(cases)

if __name__ == "__main__":
    result = run_selection_experiment(
        model, TRAIN_DATA, EVAL_CASES, FEW_SHOT_EXAMPLES)
    print(json.dumps(result, indent=2, ensure_ascii=False))

源码说明:run_selection_experiment 输出两条路线的准确率与 token 消耗对比。quick_lora 用第 2 篇的训练代码(此处省略实现)。整个实验的成本是一轮微调训练加两轮评测,约半天到一天。

实验的启动门槛也值得明确:什么条件才值得花半天到一天做这个实验。三个门槛条件至少满足两个才启动。第一,日均请求超十万(成本维度的必要条件)。第二,少样本已优化到上限(跃迁曲线的甜点处准确率不再提升)。第三,团队有训练基础设施或愿意花一天搭建(LoRA 加单卡是最小配置)。

三个条件都不满足时,实验本身就是在浪费资源。三个都满足时,半天实验的产出直接决定未来数月的架构选择,投入产出比明确。

8.2 实验的常见陷阱

陷阱后果预防
评测集与训练数据重叠微调分数虚高严格分割
少样本基线未优化不公平对比基线用最优示例排列
只看准确率不看延迟微调可能更慢同时记录首token延迟

第二个陷阱最常见:比较"三条随机示例的少样本"和"精心训练的微调",结论显然偏向微调。公平的比较应该让少样本基线也用最优配置(精选示例、最优排列、动态检索),此时两条路线的差距才是真实的差距。

8.3 发布后的共存监控

混合架构上线后,监控两条路径的健康度:

路径监控指标告警线
微调路径格式一致率低于九成五
微调路径通用能力回测掉点超三个百分点
少样本路径示例命中率低于八成
少样本路径token 成本趋势月环比涨超两成

微调路径的第二项指标最关键:微调可能解决了一批问题又引入了另一批(灾难性遗忘),通用能力回测是唯一的哨兵。

混合架构还有一个特有的监控需求:两条路径之间的流量比例变化。正常情况下头部任务占八成长尾占两成,如果长尾占比持续上升(超过三成),说明新的任务类型在涌现,其中日请求量大的新任务应该评估是否下沉到微调层。流量结构的变化是架构演进的早期信号,比等某个单项指标报警更主动。

8.4 混合架构的演进周期

混合架构不是一次性建设的产物,是逐步演进的结果。典型的演进路径分四步:起步期全部用少样本(验证产品方向),成长期高频任务开始微调(成本驱动),成熟期两层并存加动态路由(自动化),优化期路由层的数据反馈驱动新一轮下沉(数据驱动)。

阶段少样本占比微调占比驱动因素
起步百分之百零产品方向未定
成长八成两成头部任务请求量到门槛
成熟六到八成二到四成路由自动化
优化持续调整持续调整数据反馈

每一步的升级决策都由前一步的数据驱动,不需要提前规划全部四个阶段。起步期的团队不必担心"以后要微调怎么办",少样本的投入(示例池、评测集、格式工具)在微调后全部复用,没有浪费。

8.5 混合架构的路由日志分析

路由层的日志是架构演进最有价值的数据源。每周对日志做一次结构分析,产出三个数字:各任务的请求量排名、请求量增长最快的新任务、长尾任务的总占比变化趋势。

第一个数字决定哪些任务值得微调(排名前几的任务覆盖了八成流量)。第二个数字发现正在崛起的新任务(某类查询从日均一百涨到一千,是微调的候选信号)。第三个数字判断架构是否需要调整(长尾占比持续上升说明新任务在涌现,路由规则需要更新)。

三个数字合在一起,把"什么时候该微调下一个任务"从感觉驱动变成了数据驱动。路由日志分析脚本二十行,每周跑一次,是混合架构持续运营的最小工具集。日志分析的产出直接写进下一轮微调的立项文档,数据链条从线上流量到架构决策一气贯通。

路由日志还有一个隐性价值:它是示例池更新的信号源。路由到少样本路径的请求里,命中检索的示例与未命中(退回默认)的比例,反映了示例池对当前流量的覆盖度。命中率持续低于八成说明池子需要扩充,扩充的方向从日志中被退回的请求聚类即可得到——聚类结果就是"用户在问什么而示例池没覆盖"的直接答案。

示例池的扩充还有一个优先级排序:按退回请求的频次从高到低补。频次最高的未覆盖类型优先补入示例池,因为一条新示例覆盖的是最多次被退回的那类查询。频次低于日均十次的未覆盖类型可以暂缓,等积累到有足够量再补。

补入的示例也要过质检:新补的示例不能只看"覆盖了这个类型",还要看输入是否简洁(一百字符以内)、输出是否明确(单标签)、标签是否正确(人工核对)。跳过质检直接从日志中复制原始问答对入池,最常见的后果是引入了含个人信息或格式混乱的示例,反而拉低了整个池子的质量。质检通过后按第 5 篇的格式同构检查器跑一遍,确保新补的条目与现有池子的格式逐字符一致,避免一条不合格的示例破坏整个池子的同构性。

这个"日志分析到示例补入到格式检查到发布"的闭环,是混合架构在少样本侧的持续运营全部流程。整条链路可以浓缩为一张周报:本周退回率、新增示例数、格式检查通过率、下周待补方向。四个数字加上一句结论,就是少样本路径的完整健康报告。

总结

少样本与微调的本质区别在作用位置:改输入还是改权重。少样本的优势是零训练成本、秒级切换、效果可归因,极限是能力天花板、经常性 token 成本、八条示例的注意力上限。微调把示例效果写入权重,边际 token 成本归零,但一次性投入一到两周、换模型需重训。token 成本的交叉点在日请求十万到百万之间,低于十万少样本永远是更经济的选择。生产最优解是两层并存:高频头部任务微调下沉,长尾任务少样本保留,微调后的模型配一到两条边界示例取两者之长。升级前先排除示例质量、指令歧义、评测噪声三个 cheaper 假设,微调后的模型仍配少量示例取叠加最优。架构从少样本起步逐步演进到混合,路由层日志是每一步升级决策的数据来源。

外部引用

Logo

更多推荐