本文翻译至Neural Networks in PyMC3 estimated with Variational Inference(c) 2016 by Thomas Wiecki。当前机器学习趋势当前机器学习界的三大趋势：概率编程，深度学习，大数据，在概率编程（Probabilistic Programming, PP）中，许多创新让变分推理（Variational Inference）更加广

摘要概率编程允许在用户自定义的概率模型上进行自动贝叶斯推断。新的MCMC(Markoc chain Monte Carlo)采样方法允许在复杂模型上进行推断。这类MCMC采样方法被称为HMC(Hamliltinian Monte Carlo)，但是其推断需要的梯度信息有时候是不获得的。PyMC3是一个用Python编写的开源的概率编程框架，使用Theano通过变分推理进行梯度计算，并使用了C实现加