基础镜像选择与驱动兼容性锁定

对于需要频繁交付和弹性伸缩的团队来说，环境的一致性是最大的痛点。在 AMD ROCm 生态中，容器化部署的核心挑战在于宿主机内核模块与容器内用户态库版本的严格匹配。如果版本错位，轻则无法识别 GPU，重则导致推理服务在加载模型时直接崩溃。因此，构建 Docker 镜像的第一步不是写代码，而是“选对底座”。

切勿盲目追求 latest 标签。ROCm 7.x 系列对底层依赖有明确要求，最稳妥的方案是基于官方提供的 rocm/dev-ubuntu-22.04 特定版本镜像进行构建。例如，若宿主机安装的是 ROCm 7.0，则 Dockerfile 中的 FROM 指令必须明确指定对应的 7.0-complete 版本。这种“锁版本”策略能有效避免因自动升级引入的不兼容变更。此外，考虑到 PyTorch 和 vLLM 的编译依赖，建议在基础镜像之上，预先安装好 GCC 11、CMake 3.20+ 以及 hip-dev 等关键工具链，减少构建时的网络波动风险。

Dockerfile 编写核心要点

编写 Dockerfile 时，除了常规的软件安装，更需要关注针对 ROCm 环境的特殊配置。一个标准化的构建流程通常包含以下几个关键步骤：

首先，设置必要的环境变量。ROCm 的路径需要被显式导出，以便后续编译过程能正确找到头文件和库文件。

ENV ROCM_PATH=/opt/rocm
ENV PATH=${ROCM_PATH}/bin:${PATH}
ENV LD_LIBRARY_PATH=${ROCM_PATH}/lib:${LD_LIBRARY_PATH}

其次，处理 Python 依赖。由于 vLLM 深度依赖 Triton 编译器，且不同版本的 PyTorch 对 Triton 有特定要求，建议在 requirements.txt 中固定所有核心库的版本号。在安装 vLLM 时，若官方尚未提供完全适配 ROCm 7.x 的预编译 Wheel 包，则需要从源码编译。此时，务必传入正确的架构参数，例如通过 ARG TARGET_ARCH=gfx90a 并在 pip 安装时注入，确保生成的二进制文件能充分利用 Instinct GPU 的计算单元。

最后，优化镜像层级。为了加快团队内部的迭代速度，可以将编译好的 PyTorch 和 vLLM 环境打包在一个中间层，或者采用多阶段构建（Multi-stage Build），将编译环境与运行环境分离，最终产出一个轻量级的推理镜像，仅包含运行时必要的库和模型加载脚本。

解决设备可见性与权限映射

镜像构建完成后，如何让容器“看见”并“使用”物理 GPU 是部署成功的关键。与 NVIDIA 容器工具箱不同，ROCm 容器的设备映射更依赖于标准的 Linux 设备节点权限管理。

在启动容器时，必须通过 --device 参数将宿主机的 KFD 和 DRI 设备透传进容器内部。这是容器内程序能够调用 GPU 硬件的前提。标准的启动命令应包含：

docker run --rm -it \
  --device /dev/kfd \
  --device /dev/dri \
  --group-add video \
  --cap-add=SYS_PTRACE \
  --security-opt seccomp=unconfined \
  <your-image-name>

这里，--group-add video 至关重要，它确保容器内的进程用户组拥有访问渲染设备的权限。若遗漏此参数，即便设备映射成功，程序在尝试初始化 HIP 上下文时也会因权限不足而报错。

此外，针对多卡环境，可以通过 HIP_VISIBLE_DEVICES 环境变量来控制容器内可见的 GPU 列表。这在需要隔离资源或进行单卡调试时非常有用。建议在 Docker 入口脚本中加入一段健康检查代码，利用 torch.cuda.device_count() 快速验证设备可见性，一旦检测异常立即退出并报错，避免服务在“假死”状态下运行。

标准化构建脚本与大规模部署

为了实现团队间的协作效率和大规模部署的一致性，将上述步骤固化为自动化脚本是最佳实践。我们可以编写一个 build.sh 脚本，自动读取宿主机的 ROCm 版本，动态生成匹配的 Dockerfile，并执行构建和标签打标。

在大规模部署场景下，结合 Kubernetes 或 Docker Swarm 时，需确保集群中所有节点的驱动版本与镜像内版本一致。利用 DaemonSet 在每台节点上预装相同版本的 ROCm 驱动，并通过节点标签（Node Label）调度推理 Pod 到符合条件的机器上，可以有效避免“漂移”问题。

通过这种容器化封装，团队不再需要关心单机环境的细微差异。无论是开发本地的 Ryzen AI 测试机，还是云端的 Instinct MI300X 集群，只要驱动基线一致，同一份镜像即可无缝迁移。这不仅大幅缩短了从代码提交到服务上线的周期，也为后续的自动扩缩容奠定了坚实基础，让大模型推理服务的运维变得像普通 Web 应用一样简单可控。

200小时GPU算力已就位，快来领取：https://marketing.csdn.net/questions/Q2604140858304426315?utm_source=AIpaper