logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

李宏毅2020机器学习笔记2——回归:梯度下降算法、正则化

一、回归应用广泛二、引出梯度下降算法来求解minL(1)梯度下降厉害的地方在哪里?只要方程可微分,都可以拿来进行处理,来找比较好的参数和方程。梯度的方向是变化率最大的方向。(2)梯度下降法:只有一个参数时总是为了让loss减少。任取一点,求出来该点的导数为负,就增加w;反之减少w。n : learning rate 学习率 (决定步长)可以看出来步长是变化的。越接近min,导数值越小,步长越小。梯

#机器学习
【2020-11-26】上海交通大学张志华机器学习导论笔记1

大数据 n(数据量)和p(特征)都很大。n比较小。半监督学习:在训练时,把测试数据也放进去。先随机给测试数据y值。 训练,得出a。在用a重新标注测试数据。 再拿到新的y,再训练。。。这叫: transtactive learning...

【2020-11-26】上海交通大学张志华机器学习导论笔记1

大数据 n(数据量)和p(特征)都很大。n比较小。半监督学习:在训练时,把测试数据也放进去。先随机给测试数据y值。 训练,得出a。在用a重新标注测试数据。 再拿到新的y,再训练。。。这叫: transtactive learning...

李宏毅2020机器学习笔记2——回归:梯度下降算法、正则化

一、回归应用广泛二、引出梯度下降算法来求解minL(1)梯度下降厉害的地方在哪里?只要方程可微分,都可以拿来进行处理,来找比较好的参数和方程。梯度的方向是变化率最大的方向。(2)梯度下降法:只有一个参数时总是为了让loss减少。任取一点,求出来该点的导数为负,就增加w;反之减少w。n : learning rate 学习率 (决定步长)可以看出来步长是变化的。越接近min,导数值越小,步长越小。梯

#机器学习
奇异值分解——SVD

奇异值分解(Singular Value Decomposition)一、可以将一个矩阵A分解为三个矩阵的乘积一个正交矩阵U(orthogonal matrix)一个对角矩阵S(diagonal matrix)一个正交矩阵V的转置。(1)正交矩阵:方阵,列(行)向量是标准正交向量(正交的单位向量,内积为0)(2)对角矩阵:除主对角线外的值都是0。可以是方阵、长矩阵(3)实对称...

数据标准化处理

Z-score 标准化适用范围1.数据的最大值和最小值未知2.有超出取值范围的离群数据经过处理的数据符合标准正态分布,即均值为0,标准差为1,其转化函数为:x∗=(x−μ)/σ标准化后的变量值围绕0上下波动,大于0说明高于平均水平,小于0说明低于平均水平。缺点估算Z-Score需要总体的平均值与方差,但是很难得到,大多数情况下是用样本的均值与标准差替代。对于数据的分布有一定的...

时间序列——取对数做差分的经济含义——弹性

由于很多经济数据呈指数增长,对各数据取对数之后不会改变数据的性质和关系,可以把数据压扁,易缓解/消除异方差问题;对取对数以后的数据进行线性回归,其前面的参数表示的就是百分比变化率(dlnx=dx/x),△Inx=△x/x,即弹性, 变化率具体查看知乎:https://www.zhihu.com/question/31722222...

R语言——STL时间序列分解

stl(x, s.window, s.degree=0, t.window=NULL, t.degree=1, robust=FALSE, na.action=na.fail)s.window————提取季节性时的loess算法 时间窗口的宽度,需要是奇数;s.degree————提取季节性时局部拟合多项式的阶数,需要是0或者1;t.window————提取趋势性时的loess算法 时间窗口...

matlab之findobj的用法

matlab之findobj的用法findobj每一个图象对象都有一个独一无二的名字,这个名字叫做句柄。句柄是在 MATLAB 中的一个独一无二的整数或实数,用于指定对象的身份。用于创建一个图象对象的任意命令都会自动地返回一个句柄。例如,命令Hnd1 = figure;创建一个新的图象,并返回这个图象的句柄到变量 Hnd1。函数 gcf返回当前图象窗口的句柄函数 gca 则返回...

#matlab
R语言————用箱线图检查异常值

[stats, n, conf, out]= boxplot.stats(x, coef=1.5, do.conf=TRUE, do.out=TRUE) x:所要分析的数值向量coef:盒子的长度,也就是说上图中盒须的长度需要是几倍的盒长(IQR)do.conf: 是否要输出confdo.out: 是否要输出outstats:返回5个元素的值:盒须最小值,盒最小值,中位数,盒最大值,盒...

    共 11 条
  • 1
  • 2
  • 请选择