本文总结了机器学习中几种重要的回归与聚类算法要点： 线性回归要点损失函数：最小化均方误差（MSE）优化方法：梯度下降（批量/随机/小批量）关键参数：学习率控制更新步长正则化：L1（Lasso）产生稀疏权重，L2（Ridge）缩减权重逻辑回归要点核心函数：Sigmoid输出概率损失函数：交叉熵衡量分类误差多分类：支持OvR或Multinomial策略K-means聚类要点目标：最小化簇内平方和步骤：

本文总结了机器学习建模过程中的关键技术与方法。主要内容包括：1）模型验证方法（k折交叉验证、分层k折交叉验证）；2）超参数调优技术（网格搜索）；3）模型保存与加载（joblib）；4）贝叶斯算法原理与应用；5）决策树与随机森林算法实现（ID3、CART、随机森林构建过程）；6）以泰坦尼克数据集为例，展示了从数据预处理、特征工程到模型训练、评估、保存与预测的全流程。重点介绍了如何通过交叉验证评估模型

加载器作用：读取文档中的内容加载器分类：不同结构的文本，选择不同的加载器来读取加载器的结果：它是一个列表，里面就是 document 对象，通常 document 对象有 2 个属性：page_content：数据内容metadata：元数据信息，对于数据内容的描述，比如这个数据来自于哪里。解决：1.微调，通常使用liamafactory框架实现，需要自己准备数据集，算力以及基座模型，让基座模型学

RAG 完整流程│ 离线阶段 ││ 文档 → 加载器 → 文本分割 → Embedding → ChromaDB ││▼│ 在线阶段 ││ ││ 用户问题 ││ │ ││ ▼ ││ 问题向量化（同一个 Embedding 模型） ││ │ ││ ▼ ││ ChromaDB 相似度检索（余弦相似度 + HNSW 索引） ││ │ ││ ▼ ││ 返回 top-k 相关上下文 ││ │ ││ ▼ ││

除了使用封装好的，还可以手动搭建 Chain，实现更灵活的控制。使用等组件自定义 RAG 流程。# 获取检索器（同上）# 定义提示词模板你是一个基于知识库的AI助手。请根据RAG检索内容回答用户问题。规则：- 仅基于提供的知识回答，不使用外部知识补充。- 检索内容不足时，说明信息不足，不要猜测。- 优先提炼关键答案，避免冗长解释。- 输出结果时，不允许输出"根据提供的参考资料"这样的内容。参考资料

from langchain_core . prompts import PromptTemplate # 问答内容 question = "华清远见有多少个部门" template = """你是一个基于知识库的AI助手。请根据RAG检索内容回答用户问题。规则：- 仅基于提供的知识回答，不使用外部知识补充。- 检索内容不足时，说明信息不足，不要猜测。- 优先提炼关键答案，避免冗长解释。- 输出结

如果需要下载客户端再使用 →C/S 模式（客户端/服务器模式）如果不需要下载客户端就可以使用 →B/S 模式（浏览器/服务器模式）我们做的Web 应用开发基于B/S 模式实现——通过构造网页来实现项目中的内容和功能展示。只有通过服务器我们才可以操作数据库中的内容注意服务器开发时的分包思想（结构化组织代码）注意服务器开发中的术语——一个内容可以有不同称呼（如接口、端点、路由）第一种：直接在main.

用户输入邮箱号 → 点击发送按钮│▼① 服务器接收请求（Controller）│▼② 验证邮箱是否注册（Dao → MySQL）│├── 未注册 → 返回"邮箱号不存在"│└── 已注册 → ③ 生成 4 位验证码│▼④ 发送邮件（SMTP）│▼⑤ 验证码存入 Redis（60 秒过期）│▼⑥ 用户输入验证码 → 点击验证│▼⑦ 服务器比对验证码（Service → Redis）│├── 一致 →

在之前的课程中，我们的客户端页面（HTML）直接放在服务器的templates文件夹下，由 FastAPI 通过 Jinja2 模板引擎渲染——这是一体式项目模式。前后端分离│ 前端 (Vue 3) │ HTTP │ 后端 (FastAPI) ││ • 页面展示 │ │ • 接口定义 (Controller) ││ • 用户交互 │ │ • 业务逻辑 (Service) ││ • 路由跳转 │ │

后续内容将进一步优化检索效果：向量检索虽然能理解语义，但对"关键词/名词"关注度不高，需要引入。意图识别只是"是/否"二分类判断，用 qwen3:1.7b 这类小模型就够用，调用千问大模型会浪费成本和时间。这也是 RAG 系统中常见的"路由"思想：先用轻量模型分流，再决定是否进入重检索流程。如果之前用不同的分割方式（如 chunk_size=100）入库过，旧的长串 chunk 会一直残留在集合里