一、绘制直方图首先读入数据def read_data():path = '../data/forCodeF-2.csv'data = pd.read_csv(path,encoding='gbk')return data然后调用matplotlib.pyplot.hist函数绘制各维特征的分布直方图。import matplotlib.pyplot as p...

一、激活函数简介1.激活函数的作用如下图，在神经元中，输入的 inputs 通过加权，求和后，还被作用了一个函数，这个函数就是激活函数 Activation Function。不一定是step function，可以是其他形式的非线性函数。使用激活函数的目的是给神经元引入非线性因素，从而使神经网络能够解决线性不可分的问题，比如最简单的异或。Hornik证明，只需一个包含足够多的神经元的

一、绘制直方图首先读入数据def read_data():path = '../data/forCodeF-2.csv'data = pd.read_csv(path,encoding='gbk')return data然后调用matplotlib.pyplot.hist函数绘制各维特征的分布直方图。import matplotlib.pyplot as p...

本文整理了Bi-LSTM的原理，并在静觅博客静觅：TensorFlow Bi-LSTM实现序列标注的基础上对TensorFlow 搭建一个Bi-LSTM来处理序列标注问题的代码进行了详细的注释。Bi-LSTM理解RNN的意思是，为了预测最后的结果，我先用第一个词预测，当然，只用第一个预测的预测结果肯定不精确，我把这个结果作为特征，跟第二词一起，来预测结果；接着，我用这个新的预测结果结合第三...

全概公式 贝叶斯公式贝叶斯推断 过滤垃圾邮件条件概率

半监督学习简介自从 1946 年第一台电子计算机 ENIAC 诞生至今，计算机技术得到了迅猛的发展，这使得人类采集、存储数据的能力空前的提高，利用计算机对收集到的数据进行分析提取有价值信息的技术（机器学习技术）也随之而生，并得到了很快的发展。传统的机器学习技术一般只利用有标记样本集或者只利用无标记样本集进行学习，而在实际问题中大多是有标记样本与无标记样本并存，为了更好地利用这些数据，半监督学习技.

损失函数NLLLoss() 的 输入 是一个对数概率向量和一个目标标签. 它不会为我们计算对数概率，适合最后一层是log_softmax()的网络. 损失函数 CrossEntropyLoss() 与 NLLLoss() 类似, 唯一的不同是它为我们去做 softmax.可以理解为：CrossEntropyLoss()=log_softmax() + NLLLoss()...

这篇论文是Tianqi Chen2016年在arXiv上发表的。陈天奇是机器学习领域著名青年学者，本科就读于上海交大ACM班，华盛顿大学计算机系博士，开发了XGBoost、MXNet、TVM等知名机器学习工具。（因为原文内容较多，很多针对系统而非算法本身的内容，故没有逐句翻译，仅放上了每部分的核心内容，如想阅读全文翻译可以阅读参考网址。）Abstract提升树是一种高效且被广泛使用的机器学...

CNN的基本结构包括两层，其一为特征提取层，每个神经元的输入与前一层的局部接受域相连，并提取该局部的特征。一旦该局部特征被提取后，它与其它特征间的位置关系也随之确定下来；其二是特征映射层，网络的每个计算层由多个特征映射组成，每个特征映射是一个平面，平面上所有神经元的权值相等。特征映射结构采用影响函数核小的sigmoid函数作为卷积网络的激活函数，使得特征映射具有位移不变性。此外，由于一个映射面上的

一、梯度消失梯度消失出现的原因：在深层网络中，如果激活函数的导数小于1，根据链式求导法则，靠近输入层的参数的梯度因为乘了很多的小于1的数而越来越小，最终就会趋近于0，例如sigmoid函数，其导数f′(x)=f(x)(1−f(x))的值域为（0，1/4），极易发生这种情况。所以梯度消失出现的原因经常是因为网络层次过深，以及激活函数选择不当，比如sigmoid函数。梯度消失的表现：模型无法...