一、机器学习的三个任务

1.regression

        regression是回归分析,是机器学习中用于预测连续数值输出的监督学习方法。相当于是找一个函式的任务,建立输入变量与输出变量之间的数学关系模型,输出实数。

2.classification

        classification是分类,相当于一个选择题。我们已知有多个选项类别,通过训练数据学习一个模型,从而达到选择其中一类的效果。

3.structured learning

        structured learning是结构化学习,他不向前面两种任务,这种任务相对而言更为复杂,需要找一个函式去拟合,但是需要出去一个有结构性、关联性、顺序性的物体。

二、找函式的三个步骤

1.先找一个初步的函数

        在构建自媒体流量预测模型时,需基于历史浏览量数据建立数学表达式。先初步找一个假设模型,如y=wx_1+b,该模型通常包含待定参数,用于描述流量随时间或其他变量的变化趋势。

2.找未知参数的函数

        现在我们已经找到了一个函数,但是这个函数里面有两个未知参数,这两个参数的取值情况将直接影响到函数的拟合情况。我们将这两个参数设置成一个带未知参数的函式L(b,w),这个函式即为loss function。Loss用于判断这个Loss function(损失函数)取值情况的好坏。loss越小,证明取值越好,拟合情况越好;反之,当loss越大的时候,这个曲线的拟合情况越差。

        那么如何来取得这个loss的值呢?这个时候就要应用到训练数据label,这些label都是已知且正确的数值,loss的计算即计算平均误差(预测值与真实值差距),具体计算方法如下:

e=|y-\widehat{y}|----->MAE(绝对值损失)

e=(y-\widehat{y})^2----->MSE(均方误差)

Loss:L=\frac{1}{N} \sum_{n}^{}e_n

        其中y为真实值,\widehat{y}为预测值。

3.解决最佳化问题(optimization)

        深度学习优化算法,其核心目标是调整模型参数以最小化损失函数。常见的优化方法包括梯度下降及其变种、自适应学习率算法等。现在我们来讲gradient descent,即梯度下降算法。

        梯度下降是最基础的优化算法,通过计算损失函数关于参数的梯度来更新参数:

\theta_{t+1} = \theta_t - \eta \nabla_\theta J(\theta_t)

其中\eta是学习率,也称作步长,可以由自己设置;

\nabla_\theta J(\theta_t)是梯度,即函数对各个变量的偏导。

当导数为零时,对应的点是局部最小值(local minima);真实的loss最优解称为全局最小值(global minima)。

更多推荐