浅层神经网络1. 神经网络概览2. 神经网络的表示3. 神经网络的输出4. 多样本向量化5. 激活函数6. 为什么需要 非线性激活函数7. 激活函数的导数8. 随机初始化1. 神经网络概览对于以往由逻辑单元组成的简单神经网络，我们对其计算过程已经大致了解。接下来我们类比于浅层神经网络中。第一层根据输入计算 z[1]z^{[1]}z[1] ，然后计算第一层的输出 a[1]a^{[1]}a[1]。把第

深层神经网络1. 深层神经网络2. 深层网络中的前向传播3. 前向传播和反向传播4. 核对矩阵的维数5. 为什么使用深层表示？6. 搭建神经网络块7. 参数 vs. 超参数8. 深度学习和大脑的关联性1. 深层神经网络深层神经网络其实就是包含更多的隐藏层神经网络。如下图所示，分别列举了逻辑回归、1个隐藏层的神经网络、2个隐藏层的神经网络和5个隐藏层的神经网络它们的模型结构。命名规则上，一般只参考隐

文章目录1. 代价函数2. 反向传播算法3. 反向传播算法的直观理解4. 实现注意：展开参数5. 梯度下降6. 随机初始化7. 综合起来8. 自动驾驶  神经网络是当下最强大的学习算法之一。接下来讨论一个能在给定训练集时为神经网络拟合参数的学习算法。1. 代价函数  神经网络在分类问题中的应用:  首先引入一些标记方法：假设神经网络的训练样本有 m m m个，每个包含一组输入xxx和一组输出yyy

异常检测1. 问题的动机2. 高斯分布3. 算法4. 开发和评价异常检测系统5. 异常检测与监督学习对比6. 选择特征7. 多元高斯分布8. 使用多元高斯分布进行异常检测1. 问题的动机  异常检测是机器学习算法的一个常见应用，这种算法的一个有趣之处在于：它虽然主要用于非监督学习，但从某些角度来看，又类似于一些监督学习问题。  一个异常检测的例子：假设作为一个飞机引擎制造商，当我们生产的飞机引擎从

支持向量机1. 优化目标2. 大间距的直观理解3. 大间距分类器背后的数学原理4. 核函数5. 使用支持向量机1. 优化目标  与Logistic回归和神经网络相比，支持向量机（SVM）在学习复杂的非线性方程时提供了一种更为清晰、更加强大的方式。  接下来，我们从Logistic回归开始展示我们如何一点一点修改来得到本质上的支持向量机。  Logistic回归模型的假设函数是hθ(x)=g(θTx

主成分分析PCA--------------PCA简单使用-------------一：回顾PCA（一）主成分分析法是干什么用的？（二）主成分分析法在做什么？（三）主成分分析法具体怎么做呢？——降维（四）主成分分析法具体怎么做呢？——重建数据二：数据集导入及可视化三：数据预处理三：奇异值分解四：使用PCA进行降维五：数据升维六：绘制PCA可视化图像-------------人脸像素降维之PCA使用

机器学习课程总结一、有监督学习（Supervised learning）1. 线性回归（Linear regression）2. 逻辑回归（Logistic regression）3. 神经网络（Neural Networks）4. 支持向量机（Support Vector Machines）二、无监督学习（Unsupervised learning）1. K-means算法2. PCA主成分分析

在模型预测中，模型可能出现的误差来自两个主要来源：  1、因模型无法表示基本数据的复杂度而造成的偏差（bias);  2、因模型对训练它所用的有限数据过度敏感而造成的方差（variance)。  误差是测量值与真实值之间的差值。用误差衡量测量结果的准确度，用偏差衡量测试结果的精确度；误差是以真实值为标准，偏差是以多次测量结果的平均值为标准。  而方差在统计学中是指各个数据与其平均数之差的平方的和的

聚类1. 无监督学习：简介2. K-均值算法3. 优化目标4. 随机初始化5. 选择聚类数1. 无监督学习：简介在典型的监督学习中，我们有一个有标签的训练集，目标是找到能够区分正样本和负样本的决策边界。与此不同的是，在无监督学习中，我们需要将一系列无标签的训练数据输入到一个算法中，然后让这个算法为我们找到训练数据的内在结构。下图中的无标签数据集看起来可以分成两个分开的点集（称为簇），能够划分这些点

深层神经网络1. 深层神经网络2. 深层网络中的前向传播3. 前向传播和反向传播4. 核对矩阵的维数5. 为什么使用深层表示？6. 搭建神经网络块7. 参数 vs. 超参数8. 深度学习和大脑的关联性1. 深层神经网络深层神经网络其实就是包含更多的隐藏层神经网络。如下图所示，分别列举了逻辑回归、1个隐藏层的神经网络、2个隐藏层的神经网络和5个隐藏层的神经网络它们的模型结构。命名规则上，一般只参考隐