写文章
- @sduerchenbo
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
机器学习深度学习笔记，常用算法Adam与Adagard。使用c++开发。
1. AdamAdam 算法全称为 Adaptive Moment Estimate, 这种算法结合了基于动量的算法和基于自适应学习率的算法.Adam 算法记录了梯度的一阶矩 (梯度的期望值) 和二阶矩 (梯度平方的期望值).1.1 定义其中p,g,m,v,β1,β2,E分别表示参数, 梯度, 一阶矩, 二阶矩, 衰减率和极小值 (防止 0 分母).Adam 的必要参数是衰减率 β1, β2, 一
到底了