模型训练、评估和预测。

Open Neural Network Exchange（ONNX，开放神经网络交换）格式，是一个用于表示深度学习模型的标准，可使模型在不同框架之间进行转移。ONNX是一种针对机器学习所设计的开放式的文件格式，用于存储训练好的模型。它使得不同的人工智能框架（如Pytorch, MXNet）可以采用相同格式存储模型数据并交互。ONNX的规范及代码主要由微软，亚马逊 ，Facebook 和 IBM 等

不平衡数据的场景出现在互联网应用的方方面面，如搜索引擎的点击预测（点击的网页往往占据很小的比例），电子商务领域的商品推荐（推荐的商品被购买的比例很低），信用卡欺诈检测，网络攻击识别等等。问题定义那么什么是不平衡数据呢？顾名思义即我们的数据集样本类别极不均衡，以二分类问题为例，假设我们的数据集是$S$，数据集中的多数类为$S_maj$，少数类为$S_min$，通常情况下把多数类样本的比例为$100:

softmax建模使用的分布是多项式分布，而logistic则基于伯努利分布。多个logistic回归通过叠加也同样可以实现多分类的效果，但是 softmax回归进行的多分类，类与类之间是互斥的，即一个输入只能被归为一类；多个logistic回归进行多分类，输出的类别并不是互斥的，即"苹果"这个词语既属于"水果"类也属于"3C"类别。

Dataloader的处理逻辑是先通过Dataset类里面的函数获取单个数据，然后组合成batch，再使用collate_fn所指定的函数对这个batch做一些操作（比如每个batch中实际lengths，padding，cuda之类的）。因为dataloader是有batch_size参数的，我们可以通过自定义来设计数据收集的方式，意思是已经通过上面的Dataset类中的函数采样了batch_s

安装pip安装pip3 install torch torchvisionmacos还需要安装brew install libomp否则出错：ImportError: dlopen(/...torch/_C.cpython-36m-darwin.so, 9): Library not loaded: /usr/local/opt/libomp/lib/libomp.dylib...

http://blog.csdn.net/pipisorry/article/details/39076957常见离散概率分布Note: 一般的二项分布是n次独立的伯努利试验的和。它的期望值和方差分别等于每次单独试验的期望值和方差的和。皮皮blog常见连续概率分布常见的概率分布_文库下载http://www.wenkuxiazai.com/d

几种RNNs并不能很好的处理较长的序列。一个主要的原因是，RNN在训练中很容易发生梯度爆炸和梯度消失，这导致训练时梯度不能在较长序列中一直传递下去，从而使RNN无法捕捉到长距离的影响。

http://blog.csdn.net/pipisorry/article/details/40709187分布函数/累积分布函数CDF（CDF – Cumulative distribution function或直接就叫 distribution function）定义CDF函数表示随机变量小于或等于其某一个取值x的概率。设X是一个随机变量，x是任意实数，函数称为X的分布函数。有时也记为X

Open Neural Network Exchange（ONNX，开放神经网络交换）格式，是一个用于表示深度学习模型的标准，可使模型在不同框架之间进行转移。ONNX是一种针对机器学习所设计的开放式的文件格式，用于存储训练好的模型。它使得不同的人工智能框架（如Pytorch, MXNet）可以采用相同格式存储模型数据并交互。ONNX的规范及代码主要由微软，亚马逊 ，Facebook 和 IBM 等