文章目录1. 基本概念一般表达式1. 基本概念线性  两个变量之间的关系是一次函数关系，图像是直线，成正比例（反比例不是），叫做线性。非线性  两个变量之间的关系不是一次函数关系的—，图象不是直线，叫做非线性。回归  人们在测量事物的时候因为客观条件有限，求得的都是测量值，而不是事物真实的值。  为了求得真实值，无限次的进行测量，最后通过这些测量数据计算回归到真实值。一般表达式...

文章目录1. rideg回归1.1 岭回归的手动实现1.2 岭回归基于正规方程1.3 岭回归使用scikit-learn1. rideg回归1.1 岭回归的手动实现描述手动实现，就是，根据上一篇博客的线性回归，里面岭回归公式的推导，一步一步来实现。- 均方误差：MSE- 损失函数- 求导：最小二乘法代码在这里插入代码片1.2 岭回归基于正规方程描述W=(XTX+λI)−1XTYW=(X^TX+\l

  我们根据贝叶斯决策论，或者说是贝叶斯分类原理，首先得到的是一个期望损失【R(ci∣x)=∑j=1NλijP(cj∣x)R(c_i|x)=\sum_{j=1}^N\lambda_{ij}P(c_j|x)R(ci​∣x)=∑j=1N​λij​P(cj​∣x)】。贝叶斯判定准则就是要让总体风险最小，从而可推到要求部分风险最小【h∗(x)=arg minc∈YR(c∣x)h^*(x)=arg\ min