logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

梯度裁剪:深度学习训练的悬崖护栏与防爆盾

在训练深度神经网络时,梯度就像是给模型指明方向的罗盘,但这个罗盘有时会突然变成引爆器——当梯度爆炸发生时,模型参数会以每秒数十亿次的运算速度冲向数值悬崖,最终导致整个训练崩溃。梯度裁剪(Gradient Clipping)正是防止这种灾难的关键安全装置。

#深度学习#人工智能#机器学习 +2
深度Q网络(DQN):让AI学会打游戏的里程碑算法

"DQN证明了神经网络可以直接从原始感知输入中学习复杂的决策策略,这不仅是游戏AI的突破,更是向通用人工智能迈出的关键一步。​​关键里程碑​​:​​DeepMind科学家David Silver​​曾断言:"如果说深度学习让机器具备了感知能力,那么DQN代表着机器决策能力的觉醒。" 现在,您已掌握这改变世界的钥匙,下一步是将它应用在您的领域!%5Ctheta。

#网络#人工智能#算法 +3
深度学习损失函数宝箱:从Focal Loss到InfoNCE的全面探索

损失函数设计是深度学习工程中​​微妙的平衡艺术​​——在数学严谨性与应用需求之间,在理论完备性与计算效率之间。

#深度学习#人工智能#学习 +4
元学习革命:MAML - 让AI学会如何学习

"MAML不仅是一个算法,更是实现​​学习本质​​的工程艺术——它证明机器可以通过经验积累学习策略,而不仅限于学习特定知识。​​元学习的三层价值​​:​​资源导引​# 官方实现# 课程推荐- 斯坦福CS330: Deep Multi-Task and Meta Learning- Fast.ai深度学习实战课(Part 2)# 延伸阅读- [MAML原始论文](https://arxiv.org/

#人工智能
技术博文:在多任务的海洋中航行——克服灾难性遗忘的艺术​

灾难性遗忘是多任务学习道路上不可避免的障碍,但绝非不可逾越。理解其​​源于优化的本质冲突、表示干扰和容量瓶颈​​是第一步。上述四类核心策略——​​参数隔离、正则化约束、经验回放、架构自适应​​——提供了不同的工具箱。选择最优策略如同调音,需要依据你的具体场景资源限制、任务特性、模型规模和性能目标精心权衡取舍。在人工智能追求更通用、更类人的智能道路上,让模型​​既博闻强记(不忘旧识),又敏而好学(掌

文章图片
#深度学习#人工智能#机器学习 +2
损失函数本质论:机器学习与深度学习中的价值判断体系

损失函数(Loss Function)是机器学习模型的"错题本"和"评分标准",它通过数学方法量化模型预测结果与真实答案之间的差异程度。就像考试评分表决定了学生的改进方向,损失函数引导模型参数朝着减少预测错误的方向更新。特性交叉熵MSE分类梯度特性与误差成正比饱和区梯度消失概率校准输出规范概率需额外Sigmoid最佳场景多分类任务二分类边界回归损失函数的核心是​​错误度量的数学表述​​,其设计基于

文章图片
#深度学习#人工智能#神经网络 +3
神经网络赋能分子图比对:GraphCL 2.0如何重塑药物发现

GraphCL 2.0的技术突破正在重塑计算药物研发的范式:​​数据效率革命​​标注数据需求降至传统方法的1/10诺华制药实现新靶点分子筛选速度提升8倍​​科学发现加速​​应用领域传统周期先导化合物发现12-18月2-3月毒性预测6月2周药物重定位24月3月​​产业落地案例​​​​罗氏​​:新冠口服药分子设计周期缩短至11个月​​BMS​​:利用子图对比发现全新激酶抑制剂​​药明康德​​:构建千亿

#算法#人工智能#语言模型 +3
多模态模型超详细解析与代码实战​(可用于面试或学习,持续更新)

其中 fimage​ 和 ftext​ 为编码器函数.其中 τθ​ 为文本编码器,y 为输入文本.其中 Q 来自文本,K,V 来自图像.其中 λ 为动态调整的权重系数.

文章图片
#神经网络#人工智能#深度学习 +3
机器学习与深度学习的高等数学与更高层次数学知识(涵盖前沿数学知识)总结

一、微积分进阶​​ 1. ​​泰勒展开与多元泰勒公式​​ ​​公式​​: ​​变量​​: ∇f:梯度向量,H:Hessian矩阵,Δx:增量向量。 ​​应用​​: ​​牛顿法优化​​:二阶近似加速收敛(如逻辑回归的Hessian矩阵优化)。​​函数近似​​:局部线性化非线性模型(如高斯过程回归)。 2. ​​多重积分与概率密度积分​​ ​​公式​​: ​​变量​​: f(x):联合概率密度函数,:

#机器学习#深度学习#人工智能 +3
机器学习与深度学习的概率论知识总结

一、离散型概率分布​​ 1. ​​伯努利分布(Bernoulli Distribution)​​ ​​定义​​:单次二分类试验(成功/失败)的概率分布。​​概率质量函数(PMF)​​:​​参数​​: p:事件成功的概率(0≤p≤1)。 ​​例子​​: 抛一枚硬币,正面朝上(X=1)的概率为 p。点击率预测中用户是否点击广告(二分类)。 ​​应用场景​​: ​​逻辑回归​​:输出伯努利分布

#机器学习#深度学习#概率论 +2
    共 40 条
  • 1
  • 2
  • 3
  • 4
  • 请选择