Yolo v8 通过deepseek指导，逐模块学习

本文介绍了大语言模型(LLM)训练的两个关键阶段：预训练和后训练/微调，重点讲解了监督微调(SFT)方法。SFT通过"提示-回答"对数据训练模型，使其能够遵循指令执行特定任务。文章详细阐述了SFT的关键点，包括数据质量要求、与其他后训练方法的区别，并提供了基于Qwen3-0.6B-Base模型的实践代码示例，包含模型加载、推理生成和测试评估等完整流程。代码部分展示了如何构建对话

P-tuning系列方法通过将离散提示转化为连续可优化的向量，显著提升了提示工程的效率。P-tuning v1引入Prompt Encoder生成伪提示，实现参数高效微调；P-tuning v2进一步提出深度提示优化，在Transformer每一层添加可训练前缀，增强模型表达能力。

笔记目录：统计学习方法（李航） 第一章 绪论统计学习方法（李航）第二章 感知机统计学习方法（李航）第三章 k近邻统计学习方法（李航） 第四章 贝叶斯统计学习方法（李航） 第五章 决策树决策树是一种树形结构的分类或回归模型，通过一系列 if-then 规则对数据进行决策示例：对于数据集 {(x1,y1),(x2,y2),…,(xn,yn)}\{ (x_1, y_1), (x_2, y_2), \do

笔记目录：统计学习方法（李航） 第一章 绪论统计学习方法（李航）第二章 感知机统计学习方法（李航）第三章 k近邻贝叶斯定理:已知: 存在 KKK 类 c1,c2,...,cKc_1,c_2,...,c_Kc1​,c2​,...,cK​, 给定一个新的实例x=(x(1),x(2),...,x(n))x=(x^{(1)},x^{(2)},...,x^{(n)})x=(x(1),x(2),...,x(n

在前面我们讨论了transformer如何进行模块的堆叠，在语言模型处理的最后阶段，会被转换为某种评分或标记概率的计算。所以语言模型头的结果是这种标记概率评分，表明在所有已知的token中每个token各自都多少概率会被输出，这些概率之和也就是百分之一百。贪婪解码（如选择最高概率的token）生成确定性结果，但可能陷入局部最优；Top-p（核采样）从累积概率阈值内的候选集中随机抽取，平衡多样性与合