logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【LLM ✖️ 强化学习】— DPO、PPO、 GRPO、GSPO、DAPO、SAPO

本文系统梳理了语言模型强化学习的几类主流优化方法,并聚焦于其核心目标、算法思路与优缺点。PPO​ 通过 clipping 新旧策略概率比,稳定在线策略梯度更新,但需训练价值网络,计算开销大。DPO​ 利用偏好对直接优化策略,无需奖励模型,但严重依赖离线数据质量,且分布偏移敏感。GRPO​ 在 PPO 基础上省去价值网络,通过组内相对奖励构造优势,大幅降低了计算需求,但依赖成组采样,推理成本增加。G

文章图片
#人工智能#语言模型
【报错】— gpt_academic代理使用报错

确定API_URL重定向格式是否正确,两者需要对应。clash一般是http协议,端口默认是7890。clash最好开启global模式。

文章图片
#开发语言
【数据库】— 2NF、3NF、BCNF、最小函数依赖集例题

设有关系模式W(C,P,S,G,T,R),其中各属性的含义是:C课程,P教师,S学生,G成绩,T时间,R教室,根据定义有如下数据依赖集D={ C→P,(S,C)→G,(T,R)→C,(T,P)→R,(T,S)→R}。关系模式W的一个候选键是_____,W的规范化程度最高达到_____。正确选项为__________。对连锁商店的管理,设计了关系模式:商店(商店, 商品部, 商品,商品部经理),下列

文章图片
【人工智能】— 维度灾难、降维、主成分分析PCA、获取旧数据、非线性主成分分析

这是由于,根据勾股定理,数据点到主成分的距离的平方和等于每个数据点在主成分上的投影与该数据点之间的距离的平方和。因此,最小化数据点到主成分的距离的平方和等价于最大化每个数据点在主成分上的投影的平方和。这是因为,最小化这个距离的平方和可以最大化数据点在主成分上的投影的平方和。综上所述,为了找到最佳的主成分,需要最大化每个数据点在主成分上的投影的平方和,即最小化数据点到主成分的距离的平方和。因此,对于

文章图片
#人工智能#机器学习
【深度学习】—激活函数、ReLU 函数、 Sigmoid 函数、Tanh 函数

我们已经了解了如何使用非线性激活函数(如 ReLU、sigmoid 和 tanh)来构建具有更强表达能力的多层神经网络。值得一提的是,如今借助开源的深度学习框架,只需几行代码即可快速构建模型,而在 20 世纪 90 年代,训练这些网络可能需要数千行 C 或 Fortran 代码。

文章图片
#深度学习#人工智能
【大语言模型】—— 自注意力机制及其变体(交叉注意力、因果注意力、多头注意力)的代码实现

本文介绍了注意力机制的几种变体及其PyTorch代码实现。主要包括: Self-Attention:基础自注意力机制,通过Q、K、V计算注意力权重,适用于序列内部建模。 CrossAttention:让一个序列关注另一个序列,典型应用于Transformer解码器-编码器交互和多模态任务。 CausalAttention:通过三角掩码实现因果性,确保只能关注当前位置之前的token,适用于自回归生

文章图片
#语言模型#人工智能#自然语言处理
【大语言模型】—— Transformer的QKV及多头注意力机制图解解析

【摘要】本文通过图解方式解析Transformer中的QKV及多头注意力机制。首先指出传统神经网络和RNN在翻译任务中的局限性,引入位置编码解决词序问题。详细拆解注意力机制:通过Q/K/V矩阵计算词间相似度,加权融合上下文信息形成新词向量。重点阐述多头注意力原理,通过多组QKV并行计算增强模型表达能力,最终拼接各头输出完成信息整合。整个过程可视化展示了Transformer如何突破序列建模瓶颈,实

文章图片
#语言模型#transformer#人工智能
【人工智能】— 逻辑Agent、一般逻辑、Entailment 蕴涵、命题逻辑、前向链接、反向链接、Resolution归结

合取范式(CNF)是一个逻辑学术语,它表示为文字的析取式的合取式,其中每个文字都是一个变量或者它的否定形式,而每个合取项都是由一个或多个文字的析取组成的,这些合取项被称为clauses。逻辑中的关键概念之一是蕴涵,它指的是两个命题之间的关系,其中一个命题逻辑上可以推导出另一个命题。蕴涵表示一个语句逻辑上跟随另一个语句而出现,即如果一个语句A蕴涵另一个语句B,那么当A为真时,B也必须为真。这种蕴涵关

文章图片
#人工智能#算法
【数据分析】— 特征工程、特征设计、特征选择、特征评价、特征学习

简单的说,该赛题的求解目标是利用数据分析将人工的鼠标轨迹和代码生成的鼠标轨迹区分开来。当决策树完全生成后,每个结点分裂所使用的特征组成的集合就是最后筛选出的特征子集。如何从数据中能够自主的学习特征,在这里我们主要介绍在深度学习中常用的三种网络结构。,将样本集划分为纯度更高的子集,而每次选择出的都是使划分效果最佳的特征,所以。不同的特征选择算法不仅对特征子集评价标准不同,有的还需要结合后续的学。是一

文章图片
#机器学习
【人工智能】— 神经网络、前向传播、反向传播、梯度下降、局部最小值、多层前馈网络、缓解过拟合的策略

都是神经网络训练中常用的重要算法。是指将输入数据从输入层开始经过一系列的权重矩阵和激活函数的计算后,最终得到输出结果的过程。在前向传播中,神经网络会将每一层的输出作为下一层的输入,直到输出层得到最终的结果。是指在神经网络训练过程中,通过计算损失函数的梯度,将梯度从输出层开始逆向传播到输入层,以更新每一层的权重参数。在反向传播中,通过计算梯度,可以得到每个神经元的误差,进而调整其权重和偏置,以最小化

文章图片
#人工智能#神经网络
    共 73 条
  • 1
  • 2
  • 3
  • 8
  • 请选择