先计算并减去原始数据集的平均值，然后计算协方差矩阵及其特征值，然后利用argsort函数对特征。2个参数：一个参数是用于进行PCA操作的数据集，第二个参数是可选参数，即应用N个特征，首。值进行从小到大排序，根据特征值排序的逆序就可以得到最大的N个向量，这些向量将构成后面对。数据进行转换的矩阵，该矩阵则利用N个特征将原始数据转换到新空间中，最后原始数据被重构后。返回，同时，降维之后的数据集也被返回。

如果学习器被允许向施教者提出查询，而不是观察训练集的随机样本，会对所需样例数目有怎样的。到，定义了一个对假设空间复杂度的自然度量，由它可以界定归纳学习所需的训练样例数目。从理论上刻画了若干类型的机器学习问题中的困难和若干类型的机器学习算法的能力。出错界限框架：考查了一个学习器在确定正确假设前可能产生的训练错误数量。能否知道为保证成功的学习有多少训练样例是必要的或充足的？是否可能独立于学习算法确定学

窗口函数可以是正常的矩形窗口也可以是对每一个像素给予不同权重的高斯窗口，角点检测中要使。他把这个简单的想法转换成了数学形式。将窗口向各个方向移动（这就是说必须使方程右侧的第二项的取值最大。对上面的等式进行泰勒级数展开然后再通过几步数学。之后，根据一个等式对窗口是否。：向任何方向移动变化都。）然后计算所有差异的。

事实上，未标记样本虽未直接包含标记信息，但若它们与有标记样本是从同样的数据源独立同分布采样而来，则它们所包含的关于数据分布的信息对建立模型将大有裨益.图13.1给出了一个直观的例示.若仅基于图中的一个正例和一个反例，则由于待判别样本恰位于两者正中间，大体上只能随机猜测；若能观察到图中的未标记样本，则将很有把握地判别为正例，“十”？“-待判别样本观察到未标记样本十图13.1未标记样本效用的例示.右边

为此，需使用一个“测试集"(testing set)来测试学习器对新样本的判别能力，然后以测试集上的“测。老师出了10道习题供同学们练习，考试时老师又用同样的这10道题作为试题，这个考试成绩能否。回到我们的问题上来，我们希望得到泛化性能强的模型，好比是希望同学们对课程学得很好、获得。之前的文章中写过，我们可以通过实验测试来对学习器的泛化误差进行评估并进而做出选择。显然，若测试样本被用作训练了，则得

序贯覆盖：在训练集上每学到一条规则，就将改规则覆盖的样例去除，然后以剩下的样例组成训练。冲突消解：顺序规则、缺省规则、元规则。读作：若（文字1且文字2且...），则目标概念成立。集重复上述过程（ 分治策略）。命题逻辑 → 命题规则。

一类，所寻求的最优超平面不是使两类样本点分得“最开”，而是使所有样本点离超平面的“总偏差”SVM本身是针对经典的二分类问题提出的，支持向量回归机（中，然后在此高维空间中再进行线性回归，从而取得在原空间非线性回归的效果。的基本思想是通过事先确定的非线性映射将输入向量映射的一个高维特征空间。更坚实，更像一门严谨的“科学”（三要素：问题表示、问题解决、证明）对于线性情况，支持向量机函数拟合首先考虑用线性

通过某种映射到欧氏空间的一个点，并利用欧氏空间的良好性质在其中进行学习器的训练。支，通过有标记样本或结合未标记样本，寻找一个能够在给定指标下最恰当刻画样本相似度的距离。量学习的主要思想是，利用标注数据学习一个度量矩阵，对样本进行映射变换，使得在变换后的度。量空间中，同类样本之间的距离变小，异类样本之间的距离变大，或使得相似的样本距离变小，不。利用携带标注信息的训练数据进行距离度量学习，能更好的降低

迁移学习是一种学习的思想和模式。迁移学习作为机器学习的一个重要分支，侧重于将已经学习过。的知识迁移应用于新的问题中。迁移学习的核心问题是，找到新问题和原问题之间的相似性，才可。定义：迁移学习，是指利用数据、任务、或模型之间的相似性，将在旧。迁移学习的原因概括为以下四个方面：大数据与少标注之间的矛盾；海量的数据，持续不断地训练和更新相应的模型，使得模型的性能越来越好，越来越适合特定场景。然而，这些大

假设这个是⼀些样本的集合X = x1, x2, x3, ..., xn，我们根据样本估计整体的数学期望（平均值）。所以无偏估计，所估计的别⼈口袋每张钱的数学期望（平均值）= 10 ∗ 1/2 + 100 ∗ 1/2。⼀张100 元，然后你想估计下他口袋里的剩下的钱平均下来每张多少钱（估计平均值）。哪怕拿到了两张十块钱，我还是认为十块钱出现的概率和100元的概率⼀样。每个样本出现概率不⼀样，概率大的