讲了agent的原理之一，上下文的记忆等等

文章摘要： 大模型存在知识冻结和幻觉两大缺陷，RAG（检索增强生成）通过“开卷考试”机制有效解决：先检索相关文档再生成答案，无需重新训练模型。基础RAG包含向量化、向量数据库和检索生成三组件，进阶方案则通过混合检索、重排序、查询改写等技术优化效果。2026年主流趋势包括Agentic RAG（自主多步检索）和多模态RAG（支持图文）。实践建议从小规模起步，优先优化检索质量。RAG已成为LLM应用标

深度学习的发展历程可追溯至1958年的感知机算法，从模拟生物神经元（M-P模型）的数学函数出发，逐步演化为多层神经网络。关键突破包括： 感知机：首个可学习权重的模型，但受限于线性分类（如无法解决XOR问题）； 多层网络：通过隐藏层实现非线性变换，分层提取特征（如边缘→部件→整体）； 深度优势：更多层数带来层次化抽象能力，优于单纯增加神经元数量； 激活函数：如ReLU引入非线性，解决梯度消失问题，成

《深度学习训练三要素：正则化、归一化与学习率调度》 摘要：本文系统解析影响神经网络性能的三大关键技术：1）正则化技术（Dropout、权重衰减、数据增强）通过随机失活神经元、惩罚大权重和样本增强，有效防止模型过拟合；2）归一化方法（BatchNorm、LayerNorm）通过标准化层输入分布，解决内部协变量偏移问题，使深层网络训练更稳定；3）动态学习率调度策略（余弦退火、Warmup等）实现从粗调

《提示工程核心技术解析：从零样本到思维链》摘要 本文系统介绍了大模型提示工程的核心技术。研究表明，提示词质量对模型输出的影响甚至超过模型本身，优质提示可带来30-50%的性能提升。文章基于本地Qwen3模型，详细讲解了五种关键技术：零样本提示（直接任务描述）、少样本提示（提供示例）、思维链（分步推理）、结构化模板（角色-任务-格式）和系统提示（角色设定）。其中，"让我们一步步思考&quo

本文系统解析了RLHF（基于人类反馈的强化学习）技术及其在大语言模型对齐中的关键作用。主要内容包括： 三阶段训练流程：预训练→监督微调→RLHF，后者通过PPO算法优化模型输出与人类偏好对齐； RLHF四步实现：监督微调→训练奖励模型→PPO优化→迭代改进，重点剖析了PPO中的KL散度约束机制； 新型DPO方法：直接优化偏好数据，省去奖励模型训练和PPO复杂流程； 效果对比：RLHF使模型在帮助性

深度学习模型部署与优化核心技术摘要 将训练好的模型部署到生产环境面临三大挑战：模型体积大、推理速度慢、框架不兼容。本文系统介绍了三种关键技术： 量化：将模型从FP32转为INT8，体积缩小4倍，推理速度提升2-4倍，精度损失通常低于1%。 知识蒸馏：通过大模型（Teacher）指导小模型（Student），在参数量减少的情况下保持较高准确率。 ONNX导出：作为跨框架中间格式，支持PyTorch/

让初级小白明白llm wiki是什么，如何搭建自己的本地大模型有一个初步的了解

讲了小白如何学习ai

文章摘要： 大模型存在知识冻结和幻觉两大缺陷，RAG（检索增强生成）通过“开卷考试”机制有效解决：先检索相关文档再生成答案，无需重新训练模型。基础RAG包含向量化、向量数据库和检索生成三组件，进阶方案则通过混合检索、重排序、查询改写等技术优化效果。2026年主流趋势包括Agentic RAG（自主多步检索）和多模态RAG（支持图文）。实践建议从小规模起步，优先优化检索质量。RAG已成为LLM应用标