1. 环境准备：理解Jetson Nano的特殊性

Jetson Nano作为一款嵌入式AI计算设备，其硬件架构和软件生态与普通x86电脑有很大不同。我最开始接触Jetson Nano时，就犯了一个错误——直接按照普通Ubuntu系统的安装方式来配置环境，结果踩了不少坑。Jetson Nano采用的是ARM架构的Tegra处理器，这意味着很多为x86架构预编译的软件包在这里无法直接使用。

记得我第一次尝试在Jetson Nano上安装PyTorch时，直接用了pip install torch命令，结果不仅安装失败，还差点把系统搞崩溃。后来才发现，必须使用NVIDIA官方为Jetson平台特别编译的版本。这也是为什么我们需要特别关注版本兼容性问题，尤其是JetPack版本、Python版本和PyTorch版本之间的匹配关系。

JetPack SDK是NVIDIA为Jetson系列设备提供的完整开发套件，包含了Linux操作系统、CUDA、cuDNN、TensorRT等关键组件。不同版本的JetPack会带来不同的CUDA版本和Python版本，这就直接影响了我们可以使用的PyTorch版本。比如JetPack 4.6.1默认使用Python 3.6，而更新的JetPack 5.x则开始支持Python 3.8。

2. Docker安装与配置

2.1 清理现有Docker组件

在开始安装Docker之前，我们需要先清理系统中可能存在的旧版本或冲突组件。Jetson Nano默认安装的是Docker.io，但我们需要的是Docker CE（社区版）。我建议先运行以下清理命令：

for pkg in docker.io docker-doc docker-compose docker-compose-v2 podman-docker containerd runc; do
    sudo apt-get remove $pkg -y
done

这个命令会移除所有可能与Docker CE冲突的软件包。我在实际使用中发现，如果不进行这步清理，后续安装可能会遇到依赖冲突问题。

2.2 添加Docker官方仓库

接下来我们需要添加Docker的官方APT仓库。这里有个小技巧：由于Jetson Nano使用的是ARM64架构，我们需要确保添加的是正确的架构仓库：

# 安装证书工具
sudo apt-get update
sudo apt-get install ca-certificates curl

# 创建密钥目录
sudo install -m 0755 -d /etc/apt/keyrings

# 下载并安装Docker的GPG密钥
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc

# 添加Docker仓库
echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu $(. /etc/os-release && echo "${UBUNTU_CODENAME:-$VERSION_CODENAME}") stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

# 更新软件包列表
sudo apt-get update

2.3 安装Docker引擎

现在可以正式安装Docker了。我推荐安装以下组件包：

sudo apt-get install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin

这个安装组合包含了Docker的核心组件以及构建和编排工具。安装完成后，我们需要验证Docker是否正常工作：

sudo docker run hello-world

如果看到"Hello from Docker!"的提示信息，说明Docker已经成功安装并运行。不过这里有个重要提示：由于Jetson Nano的性能限制，第一次运行容器时可能会感觉比较慢，这是正常的。

2.4 配置非root用户使用Docker

默认情况下，运行Docker命令需要sudo权限。为了方便日常使用，我们可以将当前用户添加到docker组：

sudo usermod -aG docker $USER
newgrp docker

这样配置后，就可以直接使用docker命令而不需要每次都加sudo了。不过要注意安全风险，因为这意味着当前用户获得了相当高的系统权限。

3. PyTorch镜像选择与版本兼容性

3.1 理解L4T基础镜像

NVIDIA提供了专门的L4T（Linux for Tegra）PyTorch镜像，这些镜像是为Jetson平台特别优化的。在选择镜像时，我们需要重点关注几个关键版本信息：L4T版本、PyTorch版本和Python版本。

从我实际使用的经验来看，最常见的兼容性问题就出现在这三个版本的匹配上。比如，如果你使用的是JetPack 4.6.1（对应L4T 32.6.1），那么应该选择基于r32.6.1的PyTorch镜像，这些镜像通常使用Python 3.6。

你可以通过NVIDIA NGC目录来查找合适的镜像。访问https://ngc.nvidia.com/catalog/containers/nvidia:l4t-pytorch，这里列出了所有官方支持的L4T PyTorch镜像。

3.2 镜像版本选择策略

根据我的实战经验，我总结了以下几个镜像选择原则：

首先，确定你的JetPack版本。可以通过运行cat /etc/nv_tegra_release命令来查看。这个命令会输出类似# R32 (release), REVISION: 6.1的信息，其中的R32.6.1就是L4T版本。

其次，根据L4T版本选择对应的PyTorch镜像。例如：

• L4T 32.6.1 → nvcr.io/nvidia/l4t-pytorch:r32.6.1-pth1.9-py3
• L4T 35.3.1 → nvcr.io/nvidia/l4t-pytorch:r35.3.1-pth1.13-py3

第三，考虑你的项目需求。如果你需要运行较新的Python库，可能需要选择更新的JetPack版本。我在一个项目中就遇到了这个问题：客户提供的库需要Python 3.8，但我的JetPack 4.6.1只支持Python 3.6，最后不得不升级整个系统。

3.3 实际镜像拉取与验证

选择好镜像后，我们可以使用docker pull命令来获取镜像：

docker pull nvcr.io/nvidia/l4t-pytorch:r32.6.1-pth1.9-py3

由于Jetson Nano的网络和存储性能有限，拉取镜像可能需要较长时间。我建议在网络状况较好的时候进行这个操作，或者考虑使用离线方式传输镜像。

镜像拉取完成后，我们可以运行一个测试容器来验证环境：

docker run --rm -it nvcr.io/nvidia/l4t-pytorch:r32.6.1-pth1.9-py3 python3 -c "import torch; print('PyTorch版本:', torch.__version__); print('CUDA可用:', torch.cuda.is_available())"

如果一切正常，你应该能看到PyTorch版本信息和CU可用状态为True。

4. 容器部署实战操作

4.1 自定义镜像的加载与使用

在实际项目中，我们经常需要使用第三方提供的自定义镜像。比如我在某个机器人项目中就使用了walk-these-way提供的jetson镜像。这些镜像通常以tar包形式提供，我们需要先加载到本地Docker环境中。

假设你已经下载了deployment_image.tar文件，可以使用以下命令加载：

docker load -i ~/Downloads/deployment_image.tar

加载完成后，使用docker images命令查看已加载的镜像。你会看到镜像的名称和标签信息，这些信息在后续运行容器时会用到。

4.2 容器运行参数详解

在Jetson Nano上运行Docker容器时，有一些特殊的参数需要配置。以下是一个典型的运行命令：

docker run -it \
    --env="DISPLAY" \
    --env="QT_X11_NO_MITSHM=1" \
    --volume="/tmp/.X11-unix:/tmp/.X11-unix:rw" \
    --env="XAUTHORITY=${XAUTH}" \
    --volume="${XAUTH}:${XAUTH}" \
    --volume="/home/user/project:/workspace" \
    --privileged \
    --runtime=nvidia \
    --net=host \
    --workdir="/workspace" \
    --name="my_container" \
    my_custom_image bash

让我解释一下这些参数的作用：

• --env="DISPLAY"和相关的X11参数允许容器内程序显示图形界面
• --volume参数将主机目录挂载到容器内，方便文件交换
• --privileged给予容器较高权限，有时需要访问特定硬件设备
• --runtime=nvidia是关键参数，使容器能够使用Jetson的GPU资源
• --net=host让容器使用主机网络模式，简化网络配置

4.3 使用Makefile简化操作

在实际开发中，我习惯使用Makefile来管理复杂的Docker命令。这样不仅方便重复使用，也便于团队协作。下面是一个实用的Makefile示例：

XAUTH = /tmp/.docker.xauth

.PHONY: run stop clean

run:
    @echo "启动容器..."
    docker stop my_container || true
    docker rm my_container || true
    touch ${XAUTH}
    xauth nlist :0 | sed -e 's/^..../ffff/' | xauth -f ${XAUTH} nmerge -
    docker run -it \
        --env="DISPLAY" \
        --env="QT_X11_NO_MITSHM=1" \
        --volume="/tmp/.X11-unix:/tmp/.X11-unix:rw" \
        --env="XAUTHORITY=${XAUTH}" \
        --volume="${XAUTH}:${XAUTH}" \
        --volume="/home/$(USER)/project:/workspace" \
        --privileged \
        --runtime=nvidia \
        --net=host \
        --workdir="/workspace" \
        --name="my_container" \
        my_custom_image bash

stop:
    docker stop my_container || true
    docker rm my_container || true

clean: stop
    docker system prune -f

使用这个Makefile，你只需要运行make run就能启动容器，make stop停止容器，大大简化了操作流程。

5. 常见问题与解决方案

5.1 版本兼容性冲突

版本兼容性问题是我在Jetson Nano上遇到最多的挑战。比如有一次，客户提供了一个基于Python 3.8的库，但我的PyTorch镜像使用的是Python 3.6，导致无法直接运行。

解决这类问题有几种方案： 第一，寻找兼容的镜像版本。有时候新版本的库也支持旧的Python版本，可以尝试降低库的版本要求。

第二，自行构建镜像。如果找不到合适的现成镜像，可以考虑基于官方镜像自行构建：

FROM nvcr.io/nvidia/l4t-pytorch:r32.6.1-pth1.9-py3

# 升级Python包管理器
RUN pip3 install --upgrade pip

# 安装特定版本的依赖包
RUN pip3 install numpy==1.19.5 opencv-python-headless==4.5.3.56

# 设置工作目录
WORKDIR /workspace

第三，考虑升级JetPack版本。如果项目允许，升级到更新的JetPack版本可以获得更好的Python版本支持，但要注意硬件兼容性。

5.2 图形显示问题

在容器内运行图形界面程序时，经常会遇到显示问题。最常见的错误是"Unable to open display"。

解决方案是确保正确设置X11转发相关的环境变量和卷挂载。我通常会在运行容器前执行以下命令：

touch /tmp/.docker.xauth
xauth nlist :0 | sed -e 's/^..../ffff/' | xauth -f /tmp/.docker.xauth nmerge -

这些命令会创建一个包含X11认证信息的文件，然后在运行容器时通过环境变量和卷挂载传递给容器。

5.3 性能优化技巧

Jetson Nano的资源有限，因此需要一些性能优化技巧：首先，使用--runtime=nvidia参数确保容器能够直接使用GPU资源。其次，适当配置容器资源限制，避免单个容器占用过多资源：

docker run -it \
    --runtime=nvidia \
    --memory="4g" \
    --cpus="4" \
    my_custom_image

第三，使用SSD或高速SD卡作为存储介质，可以显著提升容器启动和运行性能。第四，考虑使用docker buildx构建多架构镜像，虽然Jetson Nano是ARM架构，但有时也需要在其他架构上测试。

5.4 网络配置问题

在容器内访问外部服务时，可能会遇到网络连接问题。使用--net=host模式可以避免大多数网络配置问题，因为容器直接使用主机网络栈。

如果需要使用桥接网络，建议配置自定义网络：

docker network create my_network
docker run -it --network=my_network my_custom_image

这样可以为容器提供更好的网络隔离性，同时仍然保持网络连通性。

6. 实战案例：部署深度学习项目

6.1 项目结构与准备

让我分享一个实际项目的部署经验。这是一个基于PyTorch的计算机视觉项目，需要部署到Jetson Nano上运行。项目结构如下：

project/
├── models/          # 模型文件
├── src/            # 源代码
├── data/           # 数据文件
├── requirements.txt # Python依赖
└── Dockerfile      # 容器构建文件

首先，我们需要检查项目的Python版本要求。打开requirements.txt文件，查看是否有特定的版本限制。如果项目需要Python 3.8，但我们的JetPack只支持Python 3.6，就需要考虑解决方案。

6.2 自定义Dockerfile编写

根据项目需求，我编写了如下的Dockerfile：

FROM nvcr.io/nvidia/l4t-pytorch:r32.6.1-pth1.9-py3

# 设置工作目录
WORKDIR /workspace

# 复制项目文件
COPY requirements.txt .
COPY src/ ./src/
COPY models/ ./models/
COPY data/ ./data/

# 安装项目依赖
RUN pip3 install --upgrade pip
RUN pip3 install -r requirements.txt

# 设置环境变量
ENV PYTHONPATH=/workspace/src
ENV MODEL_PATH=/workspace/models

# 设置入口点
ENTRYPOINT ["python3", "src/main.py"]

这个Dockerfile基于官方L4T PyTorch镜像，添加了项目特定的依赖和环境配置。使用分层构建的方式，先复制requirements.txt并安装依赖，再复制源代码和其他文件，这样可以利用Docker的缓存机制提高构建效率。

6.3 构建与测试

构建自定义镜像：

docker build -t my_project_image .

构建完成后，运行测试容器：

docker run --rm -it \
    --runtime=nvidia \
    --volume="/tmp/.X11-unix:/tmp/.X11-unix" \
    my_project_image

如果一切正常，你应该能看到项目正常启动并运行。如果遇到问题，可以使用以下命令进入容器进行调试：

docker run --rm -it \
    --runtime=nvidia \
    --volume="/tmp/.X11-unix:/tmp/.X11-unix" \
    --entrypoint bash \
    my_project_image

6.4 性能监控与优化

在项目运行过程中，监控系统资源使用情况很重要。我通常使用jtop工具来监控Jetson Nano的运行状态：

首先在主机上安装jtop：

sudo pip3 install jetson-stats

然后在容器外运行jtop来监控整个系统的资源使用情况。如果需要监控容器内部的资源使用，可以使用docker stats命令：

docker stats my_container

根据监控结果，我们可以进行针对性的优化。比如如果发现内存不足，可以调整模型批量大小；如果GPU利用率不高，可以优化数据处理流水线。

7. 持续集成与自动化部署

7.1 使用Docker Compose管理多容器

对于复杂的项目，可能需要多个容器协同工作。这时可以使用Docker Compose来管理。首先安装Docker Compose：

sudo apt-get install docker-compose-plugin

然后创建docker-compose.yml文件：

version: '3.8'

services:
  ai-service:
    image: my_project_image
    runtime: nvidia
    network_mode: host
    volumes:
      - /tmp/.X11-unix:/tmp/.X11-unix
      - ./data:/workspace/data
    environment:
      - DISPLAY=${DISPLAY}
      - QT_X11_NO_MITSHM=1

  web-interface:
    image: nginx:alpine
    ports:
      - "80:80"
    volumes:
      - ./web:/usr/share/nginx/html
    depends_on:
      - ai-service

这个配置定义了两个服务：AI推理服务和Web界面服务。使用docker-compose up命令即可启动整个应用栈。

7.2 自动化部署脚本

为了简化部署流程，可以编写自动化部署脚本。以下是一个实用的部署脚本示例：

#!/bin/bash

# 部署脚本
set -e

echo "开始部署..."

# 检查Docker是否运行
if ! docker info > /dev/null 2>&1; then
    echo "Docker未运行，请启动Docker服务"
    exit 1
fi

# 构建镜像
echo "构建Docker镜像..."
docker build -t my_project_image .

# 停止现有容器
echo "停止现有容器..."
docker-compose down || true

# 启动新容器
echo "启动容器..."
docker-compose up -d

echo "部署完成！"

这个脚本包含了基本的错误检查和流程控制，可以确保部署过程的可靠性。

7.3 监控与日志管理

在生产环境中，监控和日志管理很重要。我们可以配置Docker容器的日志轮转和监控：

# 在docker-compose.yml中配置日志选项
services:
  ai-service:
    image: my_project_image
    logging:
      driver: "json-file"
      options:
        max-size: "10m"
        max-file: "3"

对于性能监控，可以考虑使用Prometheus和Grafana组合，通过cAdvisor收集容器指标。

我在实际项目中发现，合理的监控配置可以帮助及时发现性能瓶颈和异常情况。比如设置GPU使用率告警、内存使用告警等，可以在问题影响服务之前及时处理。

记得定期检查容器日志，使用docker logs命令可以查看容器的输出：

docker logs -f my_container

对于长期运行的项目，建议配置日志聚合和分析系统，如ELK栈或Loki，以便更好地管理和分析日志数据。