机器学习 class1
一、机器学习的三个任务
1.regression
regression是回归分析,是机器学习中用于预测连续数值输出的监督学习方法。相当于是找一个函式的任务,建立输入变量与输出变量之间的数学关系模型,输出实数。
2.classification
classification是分类,相当于一个选择题。我们已知有多个选项类别,通过训练数据学习一个模型,从而达到选择其中一类的效果。
3.structured learning
structured learning是结构化学习,他不向前面两种任务,这种任务相对而言更为复杂,需要找一个函式去拟合,但是需要出去一个有结构性、关联性、顺序性的物体。
二、找函式的三个步骤
1.先找一个初步的函数
在构建自媒体流量预测模型时,需基于历史浏览量数据建立数学表达式。先初步找一个假设模型,如,该模型通常包含待定参数,用于描述流量随时间或其他变量的变化趋势。
2.找未知参数的函数
现在我们已经找到了一个函数,但是这个函数里面有两个未知参数,这两个参数的取值情况将直接影响到函数的拟合情况。我们将这两个参数设置成一个带未知参数的函式L(b,w),这个函式即为loss function。Loss用于判断这个Loss function(损失函数)取值情况的好坏。loss越小,证明取值越好,拟合情况越好;反之,当loss越大的时候,这个曲线的拟合情况越差。
那么如何来取得这个loss的值呢?这个时候就要应用到训练数据label,这些label都是已知且正确的数值,loss的计算即计算平均误差(预测值与真实值差距),具体计算方法如下:
----->MAE(绝对值损失)
----->MSE(均方误差)
Loss:
其中y为真实值,为预测值。
3.解决最佳化问题(optimization)
深度学习优化算法,其核心目标是调整模型参数以最小化损失函数。常见的优化方法包括梯度下降及其变种、自适应学习率算法等。现在我们来讲gradient descent,即梯度下降算法。
梯度下降是最基础的优化算法,通过计算损失函数关于参数的梯度来更新参数:
其中是学习率,也称作步长,可以由自己设置;
是梯度,即函数对各个变量的偏导。
当导数为零时,对应的点是局部最小值(local minima);真实的loss最优解称为全局最小值(global minima)。
更多推荐


所有评论(0)