毫无疑问，神经网络和机器学习在过去几年一直是高科技领域最热门的话题之一。这一点很容易看出，因为它们解决了很多真正有趣的用例，如语音识别、图像识别、甚至是乐曲谱写。

PyBrain的概念是将一系列的数据处理的算法封装到被称之为Module的模块中。一个最小的Module通常包含基于机器学习算法的可调整的参数集合。Modules包含一个输入和输出的buffer，外加误差buffer用于存在误差反向传播的场景。

Modules被嵌入到Network类中，并且使用ConnecTIon对象进行连接，其中可能包含一系列可调整的参数，比如连接的权重。而Network类本身又是一个Module，因此可以基于此构建多层网络结构。库中有快捷的方式构造最常用网络结构，但原则上这个系统允许嵌入最随机的连接方式来形成一个无循环图。

网络中的参数通过Trainer进行调节，它从Dataset中学习到最优化的参数。还有的增强方式的实验是通过相关的最优化的目标构造模拟环境进行参数学习。

Python是最好的编程语言之一，在科学计算中用途广泛：计算机视觉、人工智能、数学、天文等。它同样适用于机器学习也是意料之中的事。

当然，它也有些缺点；其中一个是工具和库过于分散。如果你是拥有unix思维（unix-minded）的人，你会觉得每个工具只做一件事并且把它做好是非常方便的。但是你也需要知道不同库和工具的优缺点，这样在构建系统时才能做出合理的决策。工具本身不能改善系统或产品，但是使用正确的工具，我们可以工作得更高效，生产率更高。因此了解正确的工具，对你的工作领域是非常重要的。

在我看来，Python是学习（和实现）机器学习技术最好的语言之一，其原因主要有以下几点：

语言简单：如今，Python成为新手程序员首选语言的主要原因是它拥有简单的语法和庞大的社区。

功能强大：语法简单并不意味着它功能薄弱。Python同样也是数据科学家和Web程序员最受欢迎的语言之一。Python社区所创建的库可以让你做任何你想做的事，包括机器学习。

丰富的ML库：目前有大量面向Python的机器学习库。你可以根据你的使用情况、技术和需求从数百个库中选择最合适的一个。

上面最后一点可以说是最重要的。驱动机器学习的算法相当复杂，包括了很多的数学知识，所以自己动手去实现它们（并保证其正常运行）将会是一件很困难的任务。幸运地是，有很多聪明的、有奉献精神的人为我们做了这个困难的工作，因此我们只需要专注于手边的应用程序即可。

最受欢迎的库

我已经对一些比较流行的库和它们擅长的方向做了一个简短的描述，在下一节，我会给出一个更完整的项目列表。

Tensorflow

这是清单中最新的神经网络库。在前几天刚刚发行，Tensorflow是高级神经网络库，可以帮助你设计你的网络架构，避免出现低水平的细节错误。重点是允许你将计算表示成数据流图，它更适合于解决复杂问题。

此库主要使用C++编写，包括Python绑定，所以你不必担心其性能问题。我最喜欢的一个特点是它灵活的体系结构，允许你使用相同的API将其部署到一个或多个CPU或GPU的台式机、服务器或者移动设备。有此功能的库并不多，如果要说有，Tensorflow就是其一。

它是为谷歌大脑项目开发的，目前已被数百名工程师使用，所以无须怀疑它是否能够创造有趣的解决方案。

尽管和其它的库一样，你可能必须花一些时间来学习它的API，但花掉的时间应该是很值得的。我只花了几分钟了解了一下它的核心功能，就已经知道Tensorflow值得我花更多的时间让我来实现我的网络设计，而不仅仅是通过API来使用。

擅长：神经网络

scikit-learn

scikit-learn绝对是其中一个，如果不是最流行的，那么也算得上是所有语言中流行的机器学习库之一。它拥有大量的数据挖掘和数据分析功能，使其成为研究人员和开发者的首选库。

其内置了流行的NumPy、SciPy，matplotlib库，因此对许多已经使用这些库的人来说就有一种熟悉的感觉。尽管与下面列出的其他库相比，这个库显得水平层次略低，并倾向于作为许多其他机器学习实现的基础。

scikit-learn是我们在CB Insights选用的机器学习工具。我们用它进行分类、特征选择、特征提取和聚集。我们最爱的一点是它拥有易用的一致性API，并提供了很多开箱可用的求值、诊断和交叉验证方法（是不是听起来很熟悉？Python也提供了“电池已备（译注：指开箱可用）”的方法）。锦上添花的是它底层使用Scipy数据结构，与Python中其余使用Scipy、Numpy、Pandas和Matplotlib进行科学计算的部分适应地很好。因此，如果你想可视化分类器的性能（比如，使用精确率与反馈率（precision-recall）图表，或者接收者操作特征（Receiver OperaTIng CharacterisTIcs，ROC）曲线），Matplotlib可以帮助进行快速可视化。考虑到花在清理和构造数据的时间，使用这个库会非常方便，因为它可以紧密集成到其他科学计算包上。

另外，它还包含有限的自然语言处理特征提取能力，以及词袋（bag of words）、tfidf（Term Frequency Inverse Document Frequency算法）、预处理（停用词/stop-words，自定义预处理，分析器）。此外，如果你想快速对小数据集（toy dataset）进行不同基准测试的话，它自带的数据集模块提供了常见和有用的数据集。你还可以根据这些数据集创建自己的小数据集，这样在将模型应用到真实世界中之前，你可以按照自己的目的来检验模型是否符合期望。对参数最优化和参数调整，它也提供了网格搜索和随机搜索。如果没有强大的社区支持，或者维护得不好，这些特性都不可能实现。我们期盼它的第一个稳定发布版。

擅长：非常多

Theano

Theano是一个机器学习库，允许你定义、优化和评估涉及多维数组的数学表达式，这可能是其它库开发商的一个挫折点。与scikit-learn一样，Theano也很好地整合了NumPy库。GPU的透明使用使得Theano可以快速并且无错地设置，这对于那些初学者来说非常重要。然而有些人更多的是把它描述成一个研究工具，而不是当作产品来使用，因此要按需使用。

Theano最好的功能之一是拥有优秀的参考文档和大量的教程。事实上，多亏了此库的流行程度，使你在寻找资源的时候不会遇到太多的麻烦，比如如何得到你的模型以及运行等。

擅长：神经网络和深度学习

Pylearn2

大多数Pylearn2的功能实际上都是建立在Theano之上，所以它有一个非常坚实的基础。

据Pylearn2网址介绍：

Pylearn2不同于scikit-learn，Pylearn2旨在提供极大的灵活性，使研究者几乎可以做任何想做的事情，而scikit-learn的目的是作为一个“黑盒”来工作，即使用户不了解实现也能产生很好的结果。

记住，Pylearn2在合适的时候会封装其它的库，如scikit-learn，所以在这里你不会得到100%用户编写的代码。然而，这确实很好，因为大多数错误已经被解决了。像Pylearn2这样的封装库在此列表中有很重要的地位。

擅长：神经网络

Pyevolve

神经网络研究更让人兴奋和不同的领域之一是遗传算法。从根本上说，遗传算法只是一个模拟自然选择的启发式搜索过程。本质上它是在一些数据上测试神经网络，并从一个拟合函数中得到网络性能的反馈。然后对网络迭代地做小的、随机的变化，再使用相同的数据进行测试。将具有高度拟合分数的网络作为输出，然后使其作为下一个网络的父节点。

Pyevolve提供了一个用于建立和执行这类算法很棒的框架。作者曾表示，V0.6版本也支持遗传编程，所以在不久的将来，该框架将更倾向于作为一个进化的计算框架，而不只是简单地遗传算法框架。

擅长：遗传算法的神经网络

NuPIC

Nupic是另一个库，与标准的机器学习算法相比，它提供了一些不同的功能。它基于一个称作层次时间记忆（HTM）的新皮层理论，。HTMs可以看作是一类神经网络，但在一些理论上有所不同。

从根本上说，HTMs是一个分层的、基于时间的记忆系统，可以接受各种数据。这意味着会成为一个新的计算框架，来模仿我们大脑中的记忆和计算是如何密不可分的。对于理论及其应用的详细说明，请参阅 白皮书。

擅长：HTMs

Pattern

此库更像是一个“全套”库，因为它不仅提供了一些机器学习算法，而且还提供了工具来帮助你收集和分析数据。数据挖掘部分可以帮助你收集来自谷歌、推特和维基百科等网络服务的数据。它也有一个Web爬虫和HTML DOM解析器。“引入这些工具的优点就是：在同一个程序中收集和训练数据显得更加容易。

在文档中有个很好的例子，使用一堆推文来训练一个分类器，用来区分一个推文是“win”还是“fail”。

from pattern.web import Twitter

from pattern.en import tag

from pattern.vector import KNN， count

twitter， knn = Twitter（）， KNN（）

for i in range（1， 3）：

for tweet in twitter.search（‘#win OR #fail’， start=i， count=100）：

s = tweet.text.lower（）

p = ‘#win’ in s and ‘WIN’ or ‘FAIL’

v = tag（s）

v = ［word for word， pos in v if pos == ‘JJ’］ # JJ = adjecTIve

v = count（v） # {‘sweet’： 1}

if v：

knn.train（v， type=p）

print knn.classify（‘sweet potato burger’）

print knn.classify（‘stupid autocorrect’）

首先使用twitter.search（）通过标签‘#win’和‘#fail’来收集推文数据。然后利用从推文中提取的形容词来训练一个K-近邻（KNN）模型。经过足够的训练，你会得到一个分类器。仅仅只需15行代码，还不错。

擅长：自然语言处理（NLP）和分类。

Caffe

Caffe是面向视觉应用领域的机器学习库。你可能会用它来创建深度神经网络，识别图像中的实体，甚至可以识别一个视觉样式。

Caffe提供GPU训练的无缝集成，当你训练图像时极力推荐使用此库。虽然Caffe似乎主要是面向学术和研究的，但它对用于生产使用的训练模型同样有足够多的用途。

擅长：神经网络/视觉深度学习

Statsmodels

Statsmodels是另一个聚焦在统计模型上的强大的库，主要用于预测性和探索性分析。如果你想拟合线性模型、进行统计分析，或者预测性建模，那么Statsmodels非常适合。它提供的统计测试相当全面，覆盖了大部分情况的验证任务。如果你是R或者S的用户，它也提供了某些统计模型的R语法。它的模型同时也接受Numpy数组和Pandas数据帧，让中间数据结构成为过去！

与其他语言集成

你不了解Python但是很擅长其他语言？不要绝望！Python（还有其他）的一个强项就是它是一个完美的胶水语言，你可以使用自己常用的编程语言，通过Python来访问这些库。以下适合各种编程语言的包可以用于将其他语言与Python组合到一起：

R -》 RPython

Matlab -》 matpython

Java -》 Jython

Lua -》 Lunatic Python

Julia -》 PyCall.jl

不活跃的库

这些库超过一年没有发布任何更新，我们列出是因为你有可能会有用，但是这些库不太可能会进行BUG修复，特别是未来进行增强。

MDP

MlPy

FFnet

PyBrain