​  之前的分类算法中，模型致力于寻找一个超平面，可以将训练集中的两类样本分开，但这个超平面理论上存在无数个，它们在训练集上的分类效果可能是相同的，但模型的鲁棒性是不同的，为了寻找最鲁棒的模型，SVM便想要寻找一个所有样本总间隔最大的超平面。  首先定义间隔：假设通过一个超平面 f(x⃗)=sign(w⃗Tx⃗+b)f(\vec{x})=sign\left (\vec{w}^T\vec{x}+b

将数据集DataXN×px⃗1⋯x⃗NTDataXN×p​x1​⋯xN​TGVEVv⃗i其中v⃗i↔x⃗iEWwij1⩽ij⩽N(21.1)V&=\{\vec{v}_i\}, &其中 \vec{v}_i\leftrightarrow \vec{x}_i, \\GVE​VEvi​Wwij​​其中vi​↔xi​1⩽ij⩽N​。

​  通常模型通过训练集数据进行训练，若其测试集的效果明显低于训练集，这是一种不理想的效果，称为过拟合。  过拟合常采用三种方法应对：  从几何角度，若一组数据的特征维度是2，假设两个特征的值都是有上界的，则其构成的样本空间近似一个正方（长）形，数据在这个样本空间中分布。  现在要对这组数据进行分类任务，模型映射到样本空间中变成了一条分隔线，将两个类别的样本分隔到了线的两边。  为了便于从几何角度

开个文章补一下白版推导吧，现在回过头来看这些都还是挺有用的，不把数学底层逻辑理清总有一种学了又好像没学的感觉。

,y)概率判别模型：逻辑回归，主要建模的是 p(y∣x⃗)p(y|\vec{x})p(y∣x)4.2. 感知机4.2.1. 基本模型  模型：f(x⃗^)=sign(x⃗^TW),sign(a)={1,a>00,a=0−1,a<0.(4.1)\begin{aligned}f(\hat{\vec{x}})=\text{sign}(\hat{\vec{x}}^TW),\\ \text{sign}(a)

开个文章补一下白版推导吧，现在回过头来看这些都还是挺有用的，不把数学底层逻辑理清总有一种学了又好像没学的感觉。

开个文章补一下白版推导吧，现在回过头来看这些都还是挺有用的，不把数学底层逻辑理清总有一种学了又好像没学的感觉。