机器学习是人工智能的一个分支，它使的计算机系统能够通过数据来改进性能，而无需进行明确的编程。就是让机器通过经验学习，从而能够识别模式，做出预测或者决策。像教孩子识别猫狗一样，让电脑自己学会分辨，判断，预测。监督与非监督学习。

多元线性回归是线性回归的扩展，它设计两个或更多自变量（特征）和一个因变量（目标变量）之间的关系建模 ，是一种预测连续变量的模型，用多个特征（自变量）预测一个目标变量（因变量）。

特征缩放是指把不同特征的数值调整到一个相似的范围，通常是【0,1】或均值为0，方差为1的标准范围，以便算法更稳定，高效地进行。为什么特征取值范围差异大，梯度下降缓慢？梯度尺度不同，更新步长在不同方向上差异很大损失函数对不同权重的敏感度差异大；等高线呈椭圆形，长轴短轴的差距大；梯度下降沿着长轴方向缓慢移动，需要很多迭代才能收敛学习率设大，容易在小尺度特征方向震荡；设小，沿大尺度特征方向收敛慢可以想象

在分类问题中，“决策边界”是将不同类别分割开来的界限或曲面对于二分类问题：决策边界是把预测为类别0和类别1的区域分开的边界实质上，决策边界是模型输出概率为0.5的点集可以理解为逻辑回归在特征空间里画的一条“界限”，把两类数据尽量分开随机给一组小数（起点），是训练开始的前提计算预测概率：对每个样本计算线性组合，通过sigmoid映射得到概率计算损失（负对数似然/NLL）：用训练数据的真实的标签梯度下

虽然书写的算法对于线性回归和逻辑回归看起来是一样的，其实他们是两个非常不同的算法因为f(x)的定义不同，之前在学习线性回归的梯度下降时，看到如何监控梯度下降以确保它收敛，可以用同样的方法应用于逻辑回归确保它也收敛。类似于线性回归的矢量化实现讨论，我们也可以使用矢量化使逻辑回归的梯度下降运行的更快。

泛化能力是指模型在从未见过的新数据上的预测能力。

在机器学习中，模型如果太复杂，参数太多，容易过拟合，也就是在训练集上表现很好，但是在测试集上表现差。正则化就是上加上一个惩罚项，让模型参数不要太大，从而提高模型的泛化能力正则化的基本形式： Loss=原始损失+*正则化项。

图像左边是10（亮色），右边是0（暗色），中间有一条垂直的敏感分界线（边缘），用特定的卷积核，让这条边缘"凸显"出来。

网络准入控制是一种网络安全管理技术，是主动式的对网用户进行身份识别和安全评估，只有符合安全标准的终端才能够准许访问企事业机构的网络，仅允许审批后的终端用户使用网络资源，从而达到保障整个网络安全的目的。安全审计是按照一定安全策略，利用记录，系统活动和用户活动等信息，检查，审查和检验操作事件的环境及活动，发现系统的漏洞，入侵行为或改善系统性能的过程。也是审查评估系统安全风险并采取相应措施的一个过程，它

图像左边是10（亮色），右边是0（暗色），中间有一条垂直的敏感分界线（边缘），用特定的卷积核，让这条边缘"凸显"出来。