第一章：python必备库-从数据处理到人工智能
第二章：python必备库-从web解析到网络空间
第三章：python必备库-从人机交互到艺术设计


第一章
python必备库-从数据处理到人工智能
一、概述
1.1 从数据处理到人工智能

数据表示->数据清洗->数据统计->数据可视化->数据挖掘->人工智能

    数据表示：采用合适方式用程序表达数据
    数据清理：数据归一化、数据转换、异常值处理
    数据统计：数据的概要理解，数量、分布、中位数等
    数据可视化：直观展示数据内涵的方式
    数据挖掘：从数据分析获得知识，产生数据外的价值
    人工智能：数据/语言/图像/视觉等方面深度分析与决策
    Python库之数据分析
    Python库之数据可视化
    Python库之文本处理
    Python库之机器学习

二、Python库之数据分析
2.1 numpy

Numpy: 表达N维数组的最基础库，http://www.numpy.org

    Python接口使用，C语言实现，计算速度优异
    Python数据分析及科学计算的基础库，支撑Pandas等
    提供直接的矩阵运算、广播函数、线性代数等功能


2.2 pandas

Pandas: Python数据分析高层次应用库，http://pandas.pydata.org

    提供了简单易用的数据结构和数据分析工具
    理解数据类型与索引的关系，操作索引即操作数据
    Python最主要的数据分析功能库，基于Numpy开发
    能操作sql、json、pickle、csv、excel、ini等文件
    Series = 索引 + 一维数据
    DataFrame = 行列索引 + 二维数据

2.3 scipy

SciPy: 数学、科学和工程计算功能库，http://www.scipy.org

    提供了一批数学算法及工程数据运算功能
    类似Matlab，可用于如傅里叶变换、信号处理等应用
    Python最主要的科学计算功能库，基于Numpy开发

三、Python库之数据可视化
3.1 matplotlib

Matplotlib: 高质量的二维数据可视化功能库，http://matplotlib.org

    提供了超过100种数据可视化展示效果
    通过matplotlib.pyplot子库调用各可视化效果
    Python最主要的数据可视化功能库，基于Numpy开发

3.2 Seaborn

Seaborn: 统计类数据可视化功能库，http://seaborn.pydata.org/

    提供了一批高层次的统计类数据可视化展示效果
    主要展示数据间分布、分类和线性关系等内容
    基于Matplotlib开发，支持Numpy和Pandas

3.3 Mayavi

Mayavi：三维科学数据可视化功能库，http://docs.enthought.com/mayavi/mayavi/

    提供了一批简单易用的3D科学计算数据可视化展示效果
    目前版本是Mayavi2，三维可视化最主要的第三方库
    支持Numpy、TVTK、Traits、Envisage等第三方库

四、Python库之文本处理
4.1 PyPDF2

PyPDF2：用来处理pdf文件的工具集，http://mstamy2.github.io/PyPDF2

    提供了一批处理PDF文件的计算功能
    支持获取信息、分隔/整合文件、加密解密等
    完全Python语言实现，不需要额外依赖，功能稳定

from PyPDF2 import PdfFileReader, PdfFileMerger

merger = PdfFileMerger()
input1 = open("document1.pdf", "rb")
input2 = open("document2.pdf", "rb")
merger.append(fileobj=input1, pages=(0, 3))
merger.merge(position=2, fileobj=input2, pages=(0, 1))
output = open("document-output.pdf", "wb")
merger.write(output)

4.2 NLTK

NLTK：自然语言文本处理第三方库，http://www.nltk.org/

    提供了一批简单易用的自然语言文本处理功能
    支持语言文本分类、标记、语法句法、语义分析等
    最优秀的Python自然语言处理库

from nltk.corpus import treebank
t = treebank.parsed_sents('wsj_0001.mrg')[0]
t.draw()

4.3 Python-docx
Python-docx：创建或更新Microsoft Word文件的第三方库，http://python-docx.readthedocs.io/en/latest/index.html

    提供创建或更新.doc .docx等文件的计算功能
    增加并配置段落、图片、表格、文字等，功能全面


from docx import Document
document = Document()
document.add_heading('Document Title', 0)
p = document.add_paragraph('A plain paragraph having some ')
document.add_page_break()
document.save('demo.docx')

五、Python库之机器学习
5.1 Scikit-learn

Scikit-learn：机器学习方法工具集，与数据处理相关的第三方库，http://scikit-learn.org/

    提供一批统一化的机器学习方法功能接口
    提供聚类、分类、回归、强化学习等计算功能
    机器学习最基本且最优秀的Python第三方库

5.2 TensorFlow

TensorFlow：AlphaGo背后的机器学习计算框架，https://www.tensorflow.org/

    谷歌公司推动的开源机器学习框架
    将数据流图作为基础，图节点代表运算，边代表张量
    应用机器学习方法的一种方式，支撑谷歌人工智能应用


import tensorflow as tf
init = tf.global_variables_initializer()
sess = tf.Session()
sess.run(init)
res = sess.run(result)
print('result:', res)

5.3 MXNet

MXNet：基于神经网络的深度学习计算框架，https://mxnet.incubator.apache.org/

    提供可扩展的神经网络及深度学习计算功能
    可用于自动驾驶、机器翻译、语音识别等众多领域
    Python最重要的深度学习计算框架

六、单元小结
6.1 从数据处理到人工智能

    Numpy、Pandas、SciPy
    Matplotlib、Seaborn、Mayavi
    PyPDF2、NLTK、python-docx
    Scikit-learn、TensorFlow、MXNet

"霍兰德人格分析雷达图"Matplotlib

第二章
python必备库-从web解析到网络空间
一、概述
    Python库之网络爬虫
    Python库之Web信息提取
    Python库之Web网站开发
    Python库之网络应用开发
二、Python库之网络爬虫
2.1 Requests
Requests: 最友好的网络爬虫功能库，http://www.python-requests.org/

    提供了简单易用的类HTTP协议网络爬虫功能
    支持连接池、SSL、Cookies、HTTP(S)代理等
    Python最主要的页面级网络爬虫功能库

import requests
r = requests.get('https://api.github.com/user', auth=('user', 'pass'))

r.status_code
r.headers['content-type']
r.encoding
r.text

2.2 Scrapy

Scrapy: 优秀的网络爬虫框架，Python数据分析高层次应用库，https://scrapy.org

    提供了构建网络爬虫系统的框架功能，功能半成品
    支持批量和定时网页爬取、提供数据处理流程等
    Python最主要且最专业的网络爬虫框架

2.3 pyspider

pyspider: 强大的Web页面爬取系统，http://docs.pyspider.org

    提供了完整的网页爬取系统构建功能
    支持数据库后端、消息队列、优先级、分布式架构等
    Python重要的网络爬虫类第三方库pyspider: 强大的Web页面爬取系统

三、Python库之Web信息提取
3.1 Beautiful Soup

Beautiful Soup: HTML和XML的解析库，https://www.crummy.com/software/BeautifulSoup/bs4

    提供了解析HTML和XML等Web信息的功能
    又名beautifulsoup4或bs4，可以加载多种解析引擎
    常与网络爬虫库搭配使用，如Scrapy、requests等

3.2 Re

Re: 正则表达式解析和处理功能库，https://docs.python.org/3.6/library/re.html

    提供了定义和解析正则表达式的一批通用功能
    可用于各类场景，包括定点的Web信息提取
    Python最主要的标准库之一，无需安装

3.3 Python-Goose

Python-Goose: 提取文章类型Web页面的功能库，https://github.com/grangier/python-goose

    提供了对Web页面中文章信息/视频等元数据的提取功能
    针对特定类型Web页面，应用覆盖面较广
    Python最主要的Web信息提取库

from goose import Goose
url = 'http://www.elmundo.es/elmundo/2012/10/28/espana/1351388909.html'
g = Goose({'use_meta_language': False,'target_language':'es'}) 
article = g.extract(url=url)
article.cleaned_text[:150]

四、Python库之Web网站开发
4.1 Django

Django: 最流行的Web应用框架，https://www.djangoproject.com

    提供了构建Web系统的基本应用框架
    MTV模式：模型(model)、模板(Template)、视图(Views)
    Python最重要的Web应用框架，略微复杂的应用框架

4.2 Pyramid

Pyramid: 规模适中的Web应用框架，https://trypyramid.com/

    提供了简单方便构建Web系统的应用框架
    不大不小，规模适中，适合快速构建并适度扩展类应用
    Python产品级Web应用框架，起步简单可扩展性好

# 10行左右Hello Word程序
from wsgiref.simple_server import make_server 
from pyramid.config import Configurator
from pyramid.response import Response

def hello_world(request):
    return Response('Hello World')

if __name__ == '__main__':
    with Configurator() as config:
        config.add_route('hello', '/')
    config.add_view(hello_world, route_name='hello')
    app = config.make_wsgi_app()
    server = make_server('0.0.0.0', 6543, app)
    server.serve_forever()

4.3 Flask

Flask: Web应用开发微框架，http://flask.pocoo.org

    提供了最简单构建Web系统的应用框架
    特点是：简单、规模小、快速
    Django > Pyramid > Flask


from flask import Flask 

app = Flask(__name__) 

@app.route('/')
def hello_world():
    return 'Hello, World!'

五、Python库之网络应用开发
5.1 WeRoBot

WeRoBot: 微信公众号开发框架，https://github.com/offu/WeRoBot

    提供了解析微信服务器消息及反馈消息的功能
    建立微信机器人的重要技术手段


# 对微信每个消息反馈一个Hello World
import werobot
robot = werobot.WeRoBot(token='tokenhere')

@robot.handler
def hello(message):
    return 'Hello World!'

5.2 aip

aip: 百度AI开放平台接口，https://github.com/offu/WeRoBot

    提供了访问百度AI服务的Python功能接口
    语音、人脸、OCR、NLP、知识图谱、图像搜索等领域
    Python百度AI应用的最主要方式

5.3 MyQR

MyQR: 二维码生成第三方库，https://github.com/sylnsfar/qrcode

    提供了生成二维码的系列功能
    基本二维码、艺术二维码和动态二维码

六、单元小结
6.1 从Web解析到网络空间

    Requests、Scrapy、pyspider
    Beautiful Soup、Re、Python-Goose
    Django、Pyramid、Flask
    WeRobot、aip、MyQR

第三章
python必备库-从人机交互到艺术设计
一、概述

    Python库之图形用户界面
    Python库之游戏开发
    Python库之虚拟现实
    Python库之图形艺术

二、Python库之图形用户界面
2.1 PyQt5
PyQt5: Qt开发框架的Python接口，https://www.riverbankcomputing.com/software/pyqt
    提供了创建Qt5程序的Python API接口
    Qt是非常成熟的跨平台桌面应用开发系统，完备GUI
    推荐的Python GUI开发第三方库
2.2 wxPython
wxPython: 跨平台GUI开发框架，https://www.wxpython.org
    提供了专用于Python的跨平台GUI开发框架
    理解数据类型与索引的关系，操作索引即操作数据
    Python最主要的数据分析功能库，基于Numpy开发

import wx

app = wx.App(False)
frame = wx.Frame(None, wx.ID_ANY, "Hello World") frame.Show(True)
app.MainLoop()

2.3 PyGObject

PyGObject: 使用GTK+开发GUI的功能库，https://pygobject.readthedocs.io

    提供了整合GTK+、WebKitGTK+等库的功能
    GTK+：跨平台的一种用户图形界面GUI框架
    实例：Anaconda采用该库构建GUI

import gi
gi.require_version("Gtk", "3.0")

from gi.repository import Gtk

window = Gtk.Window(title="Hello World")
window.show()
window.connect("destroy", Gtk.main_quit)
Gtk.main()

三、Python库之游戏开发
3.1 PyGame

PyGame: 简单的游戏开发功能库，http://www.pygame.org

    提供了基于SDL的简单游戏开发功能及实现引擎
    理解游戏对外部输入的响应机制及角色构建和交互机制
    Python游戏入门最主要的第三方库

3.2 Panda3D

Panda3D: 开源、跨平台的3D渲染和游戏开发库，http://www.panda3d.org

    一个3D游戏引擎，提供Python和C++两种接口
    支持很多先进特性：法线贴图、光泽贴图、卡通渲染等
    由迪士尼和卡尼基梅隆大学共同开发

3.3 cocos2d

ocos2d: 构建2D游戏和图形界面交互式应用的框架，http://python.cocos2d.org/

    提供了基于OpenGL的游戏开发图形渲染功能
    支持GPU加速，采用树形结构分层管理游戏对象类型
    适用于2D专业级游戏开发

四、Python库之虚拟现实
4.1 VR Zero

VR Zero: 在树莓派上开发VR应用的Python库，https://github.com/WayneKeenan/python-vrzero

    提供大量与VR开发相关的功能
    针对树莓派的VR开发库，支持设备小型化，配置简单化
    非常适合初学者实践VR开发及应用

4.2 pyvr

pyovr: Oculus Rift的Python开发接口，https://github.com/cmbruns/pyovr

    针对Oculus VR设备的Python开发库
    基于成熟的VR设备，提供全套文档，工业级应用设备
    Python+虚拟现实领域探索的一种思路

4.3 Vizard

Vizard: 基于Python的通用VR开发引擎，http://www.worldviz.com/vizard-virtual-reality-software

    专业的企业级虚拟现实开发引擎
    提供详细的官方文档
    支持多种主流的VR硬件设备，具有一定通用性

五、Python库之图形艺术
5.1 Quads

Quads: 迭代的艺术，https://github.com/fogleman/Quads

    对图片进行四分迭代，形成像素风
    可以生成动图或静图图像
    简单易用，具有很高展示度

5.2 ascii_art

ascii_art: ASCII艺术库，https://github.com/jontonsoup4/ascii_ar

    将普通图片转为ASCII艺术风格
    输出可以是纯文本或彩色文本
    可采用图片格式输出

5.3 turtle

turtle: 海龟绘图体系，https://docs.python.org/3/library/turtle.html

六、单元小结
6.1 从人机交互到艺术设计

    PyQt5、wxPython、PyGObject
    PyGame、Panda3D、cocos2d
    VR Zero、pyovr、Vizard
    Quads、ascii_art、turtle