CASREL 分为两个步骤1.识别出句子中的subject2.根据subject识别出所有可能的relation和object其中模型分为三个部分1.BERT-based encoder module:编码2.subject tagging module：目的是识别出句子中的 subject。3.relation-specific object tagging module：根据 subject，

大规模预训练模型，带来了人工智能领域新的突破，由于其强大的通用性和卓越的迁移能力，掀起了预训练模型往大规模参数化发展的浪潮。但这些大规模的模型是在没有引入语言知识和世界知识的情况下对普通文本进行训练的。此外，大多数大型模型是以自回归的方式训练的。因此，这种传统的微调方法在解决下游语言理解任务时表现出相对较弱的性能。然而，现有的大规模预训练模型，主要依赖纯文本学习，缺乏大规模知识指导学习，模型能力存

最后，在知道了这么多量化方法后，对于如何选择量化，关于LLAMA-3 量化相关的论文中的相关结论。1. 8bit 量化是免费午餐，无损失。2. AWQ 4bit量化对8B模型来说有2%性能损失，对70B模型只有0.05%性能损失。可以说也是免费午餐了。3. 参数越大的模型，低bit量化损失越低。AWQ 3bit 70B 也只有2.7%性能损失，完全可接受。4. 综合来说，如果追求无任何性能损失，8

为了便捷构建 LLM 应用，需要基于本地部署的LLM模型，自定义一个 LLM 类，将LLM接入到 LangChain 框架中。完成自定义 LLM 类之后，可以以完全一致的方式调用 LangChain 的接口，而无需考虑底层模型调用的不一致。已经使用OpenAI的接口标准部署了大模型，通过以下方式注册模型，接入LangChain。api_url: str = Field(..., descripti

工作环境中，因为环境统一升级，会出现torch和cuda版本不对应的现象，就需要根据服务器的cuda版本，下载相对应的pytorch。使用官方网站提供的下载链接下载torch时，总是出现断线或下载失败现象，现在有两种办法解决上述问题。

处理数据时，有多个csv文件需要合并，可以通过python提供的pandas模块，实现多个csv文件的合并。

在强化学习中，策略（Policy）是智能体在给定状态下选择动作的规则，通常记为，表示在状态下采取动作的概率。方法适合场景不适合场景On-Policy需要高稳定性、在线交互可行、策略更新频繁样本获取昂贵、无法存储历史数据Off-Policy样本稀缺、可离线训练、需高样本效率策略差异大导致估计偏差、训练不稳定%24s%24%24a%24。

BERT是一种预训练语言模型（pre-trained language model, PLM），其全称是Bidirectional Encoder Representations from Transformers。

集成学习的基本思想是结合多个学习器组合成一个性能更好的学习器。这类方法会训练多个弱学习器（基学习器）并将它们输出的结果以某种策略结合起来组成一个强学习器。

根据上图的正向传播流程，可以把前向传播的计算公式列出来，为了简便运算，公式中只涉及了w1、w2、b三个变量。其中y为已知的真实值，a为预测值，如果预测值越接近真实值，那么对应损失的函数将越接近 0。逻辑回归的过程就是不断学习、不断调整w1、w2、b三个变量，使得损失函数的值尽可能的接近0，使得预测值尽可能接近真实值。现在的计算目标已经变为：不断的调整w1、w2、b三个变量使得损失函数尽可能的小。将