典型相关分析是研究两组变量之间相关关系的一种多元统计方法。它能够揭示出两组变量之间的内在关系在一元统计分析中，用相关系数来衡量两个随机变量之间的线性相关关系；用复相关系数研究一个随机变量和多个随机变量的线性相关关系。然而，这些统计方法在研究两组变量之间的相关关系时却无能为力。比如要研究生理指标与训练指标的关系，居民生活环境与健康状况的关系，人口统计变量（户主年龄、家庭年收入、户主受教育程度）与消费

小白初看机器学习西瓜书记录

【代码】李沐深度学习记录4：11模型选择、欠拟合和过拟合。

一.聚类(Clustering)1.无监督学习非监督学习算法。即要让计算机学习无标签数据，而不是此前的标签数据。在非监督学习中，我们需要将一系列无标签的训练数据，输入到一个算法中，然后我们告诉这个算法，为我们找找这个数据的内在结构给定数据。我们可能需要某种算法帮助我们寻找一种结构。图上的数据看起来可以分成两个分开的点集（称为簇），一个能够找到我圈出的这些点集的算法，就被称为聚类算法。2.K-均值算

1.神经网络算法的代价函数标记方法神经网络的训练样本有m个每个包含一组输入x和一组输出信号yL表示神经网络层数SIS_ISI​表示每层的神经元个数SlS_lSl​表示输出层的神经元个数SLS_LSL​表示最后一层中处理单元的个数神经网络的分类定义为两种情况：二类分类和多类分类代价函数对比逻辑回归问题中的代价函数和神经网络中代价函数1.在逻辑回归中，我们只有一个输出变量，又称标量（scalar），也

1.分类问题在分类问题中，你要预测的变量yyy是离散的值，我们将学习一种叫做逻辑回归 (Logistic Regression) 的算法，这是目前最流行使用最广泛的一种学习算法。在分类问题中，我们尝试预测的是结果是否属于某一个类（例如正确或错误）。我们从二元的分类问题开始讨论。我们将因变量(dependent variable)可能属于的两个类分别称为负向类（negative class）和正向类

小白初看机器学习西瓜书记录

数学规划模型一、概述1.什么是数学规划？运筹学的一个分支，用来研究在给定条件下(即约束条件)，如何按照某一衡量指标（目标函数）来寻求计划、管理工作中的最优方案。即求目标函数在一定约束条件下的极值问题2.数学规划的一般形式min(or max)Z=f(x)s.t gi(x)<=0,i=1,2,…,m (不等式约束)约束条件，也可能等式约束、整数约束…x:决策变量（一般多个自变量）f(x)：目标

灰色预测灰色系统GM(1,1)模型：Grey ModelGM(1,1)原理介绍呢么，准指数规律的检验？发展系数(-a)与预测情形的探究发展系数越小预测的越精确GM(1,1)模型的评价在使用GM(1,1)模型对未来的数据进行预测时，我们需要先检验GM(1,1)模型原数据的拟合程度一般两种方法：残差检验级比偏差检验使用灰色预测的情况...

1.神经网络算法的代价函数标记方法神经网络的训练样本有m个每个包含一组输入x和一组输出信号yL表示神经网络层数SIS_ISI​表示每层的神经元个数SlS_lSl​表示输出层的神经元个数SLS_LSL​表示最后一层中处理单元的个数神经网络的分类定义为两种情况：二类分类和多类分类代价函数对比逻辑回归问题中的代价函数和神经网络中代价函数1.在逻辑回归中，我们只有一个输出变量，又称标量（scalar），也