第9章 - 模型部署与生产环境 实训操作手册

1. TorchScript和模型序列化

目标：理解TorchScript的目的，并学会将PyTorch模型转换为TorchScript。

内容：

a. 什么是TorchScript？

TorchScript提供了一种方法，可以捕获PyTorch模型的定义，使其与Python运行时无关，从而可以在没有Python的环境中使用。

b. 如何转换模型为TorchScript？

使用torch.jit.trace或torch.jit.script将PyTorch模型转换为TorchScript。

实操：

import torch
import torch.nn as nn


class SimpleModel(nn.Module):
    def __init__(self):
        super(SimpleModel, self).__init__()
        self.linear = nn.Linear(2, 2)


    def forward(self, x):
        return self.linear(x)


model = SimpleModel()
example_input = torch.rand(1, 2)
traced_script_module = torch.jit.trace(model, example_input)
traced_script_module.save("simple_model.pt")

2. 使用ONNX导出模型

目标：学会使用ONNX格式导出PyTorch模型。

内容：

实操：

torch.onnx.export(model, example_input, "simple_model.onnx", verbose=True) 

3. 使用PyTorch Serving部署模型

目标：学会使用TorchServe部署PyTorch模型。

内容：

a. 什么是TorchServe？

TorchServe是PyTorch的模型服务工具，可以轻松部署PyTorch模型。

b. 如何使用TorchServe部署模型？

实操：

• • 安装TorchServe：

pip install torchserve torch-model-archiver 

• • 创建一个.mar文件：

torch-model-archiver --model-name simple_model --version 1.0 --model-file simple_model.py --serialized-file simple_model.pt --handler image_classifier 

• • 启动TorchServe：

torchserve --start --model-store model_store --models simple_model=simple_model.mar 

4. 模型性能优化

目标：了解如何优化PyTorch模型以提高推理速度。

内容：

a. 量化：

PyTorch支持动态和静态量化，可以减少模型大小并提高性能。

b. 剪枝：

• 通过移除某些神经元或连接来减少模型的大小和复杂性。

实战项目：部署模型并实现Web API进行模型预测

项目描述：选择之前构建的一个模型，进行模型序列化，并在本地环境中部署该模型，实现一个简单的Web API来进行模型预测。

实操步骤：

序列化模型：

1. 使用上面的方法将模型转换为TorchScript格式或ONNX格式。

安装必要的库：

pip install Flask torchserve 

创建API：

from flask import Flask, jsonify, request
import torch


app = Flask(__name__)
model = torch.jit.load("simple_model.pt")


@app.route('/predict', methods=['POST'])
def predict():
    data = request.get_json()
    input_tensor = torch.tensor(data['input'])
    output = model(input_tensor)
    return jsonify({'output': output.tolist()})


if __name__ == '__main__':
    app.run(debug=True)

启动API：

1. 运行上面的代码，API将在默认的5000端口上启动。

测试API：

1. 使用工具如curl或Postman向API发送请求，并观察返回的预测结果。