摘要：模型微调存在知识更新成本高、周期长、知识固化等问题，适合知识稳定的场景。RAG（检索增强生成）则具有知识更新灵活、支持实时数据、降低幻觉率等优势，更适合知识频繁迭代的问答场景。RAG通过检索外部知识库动态补充信息，成本低且可溯源。技术实现上，Transformer架构的自注意力机制克服了RNN顺序处理的缺陷，支持并行处理和全局依赖，为多轮对话等复杂任务提供基础。

梳理了优化算法及其适用场景。基础算法包括梯度下降法（BGD、SGD、MBGD），其中MBGD是深度学习最常用的基础优化器。动量优化通过历史梯度加速收敛，适合复杂地形优化。自适应学习率算法（AdaGrad、RMSProp、Adam）可自动调整参数步长，Adam综合性能最优。二阶算法（牛顿法、L-BFGS）计算代价高但收敛快，适合低维问题。智能优化算法（PSO、GA、SA、EA）通过模拟自然现象实现全

摘要：RAG架构中的上下文增强技术通过优化检索文档提升大模型输入质量。主要方法包括：(1)上下文块标题，为语义分块生成核心标题，解决LLM识别效率低的问题；(2)相关片段提取，基于Query语义精准筛选内容，避免冗余信息干扰；(3)上下文窗口增强，通过信息置顶、分块拼接等方式突破模型长度限制。这些技术显著提升了检索效率，降低了推理成本，并在金融、医疗等场景中实现了精准信息定位。配套代码示例展示了语

基于大模型的轻量改写**，如查询补全、意图明确化、多义消歧（如把模糊的 “产品性能怎么样？： 输入用户原始查询、调用大模型生成贴合 RAG 场景的「假设提示词（Hypothetical Prompt）」，而非无差别的假设文档、将假设提示词通过嵌入模型转化为向量、用该向量在知识库中检索，匹配真实文档块。通过大模型生成「与用户查询匹配的假设性文档」，用「假设文档的向量」替代「原始查询的向量」进行检索，

本文探讨了传统RAG的局限性并提出Agentic RAG解决方案。传统RAG存在单向、固定、一次性的弊端，而Agentic RAG通过工具化、循环决策和多步推理实现了动态优化。文章详细介绍了两种技术类别：核心协作类（如Agentic RAG with Contextual AI）和基础技术类（包含5种RAG变体）。基础技术类重点解决了文档分块、结构化数据处理、结果验证等核心问题，如Reliable

利用强化学习的方法对已经预训练好的模型进行进一步训练，通过让模型与环境进行交互，根据其行为获得奖励或惩罚信号，并据此调整模型的参数，使其能够更好地完成目标。，底层冻结​​：底层通常学习通用特征（如文本的字符 / 词嵌入、图像的边缘 / 纹理），顶层则学习任务相关特征，所以冻结底层可减少过拟合风险（如BERT的顶层Transformer）。：（Hard Prompt）是指人工设计的模板，在提示工程中

分类任务指标包括准确率（评估总体正确率）、精确率（减少误报）、召回率（减少漏报）、F1分数（平衡精确率和召回率）、混淆矩阵（全面展示预测结果）以及ROC曲线与AUC（评估分类效果）。回归任务指标包含MSE（对异常值敏感）、RMSE（数值直观）、MAE（抗异常值）和R²（解释变异能力）。聚类任务指标有轮廓系数（评估聚类结构）和调整兰德指数（与真实标签一致性比较）

梳理了优化算法及其适用场景。基础算法包括梯度下降法（BGD、SGD、MBGD），其中MBGD是深度学习最常用的基础优化器。动量优化通过历史梯度加速收敛，适合复杂地形优化。自适应学习率算法（AdaGrad、RMSProp、Adam）可自动调整参数步长，Adam综合性能最优。二阶算法（牛顿法、L-BFGS）计算代价高但收敛快，适合低维问题。智能优化算法（PSO、GA、SA、EA）通过模拟自然现象实现全