特性所属库（旧）（新）输出格式字符串（默认）或消息始终是消息列表推荐程度⚠️ 已弃用✅ 官方推荐配合方式持久化不支持不支持# 1. 初始化模型# 2. 定义输入 schema"""计算加法的输入参数"""a: int = Field(description="第一个数字")b: int = Field(description="第二个数字")# 3. 定义工具"""计算二数之和"""# 使用 St

是 LangChain 中一个非常强大且便捷的方法，用于强制大模型输出符合特定格式的数据（如 JSON、Pydantic 对象），而不是返回普通的文本字符串。该方法会在底层通过以下两种方式之一工作（取决于模型支持情况）：这是最常用、最健壮的方式。利用 Pydantic 进行数据校验，能确保类型正确（例如金额必须是 ，日期必须是 ）。步骤：代码示例：3. 进阶用法：处理复杂结构 (嵌套与列表)在招投

适合企业级应用或需要高并发的服务。推荐用于简单问答场景。

维度SFTRL对抗训练数据需求高质量标注数据奖励函数/偏好对原始数据 + 梯度计算泛化能力弱（易记忆）强（可迁移策略）局部鲁棒，语义泛化有限训练稳定性高中~低（依赖超参）中（可能降低主任务性能）计算成本低~中高（需环境交互）中（需额外前向/反向）适用任务单步、确定性任务多步、决策性任务安全/鲁棒性敏感任务GRPO 是 RLHF 范式的一次重要演进利用组内相对偏好替代绝对奖励；简化训练流程，减少超参

模型类型推荐输入格式对应模板类BaseLLM（如OllamaLLMstr或（如ChatOllama或最佳实践不要混用：不要把列表传给，会报错。统一接口：若不确定模型类型，可通过让 LangChain 自动处理转换。

问题能不能直接得到“故事结尾”？能不能（只得到当前输入的预测）能不能控制每一步采样？有限（依赖 generate 参数）完全可控能不能用于训练？不能可以（配合 labels 计算 loss）性能开销较高（多次前向）较低（单次前向）方法功能输入输出是否涉及GPU计算完整生成：一次性生成多token文本是单步推理：计算一次前向传播Logits(概率分布)是文本转换：将token ID转成文本字符串(S

启动Web UI。

编译它需要 PostgreSQL 的开发环境（pg_config工具），但 AutoDL 容器默认没有安装 PostgreSQL。

在调用大模型时，固定随机数种子是确保输出结果可复现、稳定一致的关键操作。这通常需要从三个层面协同设置：模型调用参数、推理框架环境和底层计算库。

Qwen2.5-32B 全量微调：硬件门槛极高，适合有大规模集群、追求极限性能的场景。Qwen2.5-32B + LoRA 微调：硬件门槛适中，适合资源有限的情况。在效果与全量微调非常接近的情况下，显存需求降至1/4，是微调 32B 级别模型的首选方案。