微调通常是在特定的目标任务上进行训练，通过少量标注数据让模型适应并优化在特定任务上的表现。增量预训练是在已训练的基础上，继续对新数据进行无监督或少量有监督的训练，增加模型的知识和能力。训练过程中，模型参数会根据新数据进行微调，以适应新的知识，但通常并不立即针对特定任务进行优化。微调时，通常会调整模型的权重，尤其是最后几层，使模型能够更好地完成特定任务，利用特定任务的数据进行优化。增量预训练通常会对

比如，对检索的结果借助更专业的排序模型与算法进行重排序或者过滤掉一些不符合条件的知识块等，使得最需要、最合规的知识块处于上下文的最前端，这有助于提高大模型的输出质量。（2）生成（Generation）：生成的核心是大模型，可以是本地部署的大模型，也可以是基于 API 访问的远程大模型。（1）检索（Retrieval）：检索的作用是借助数据索引（比如向量存储索引），从存储库（比如向量库）中检索出相关