前言：Dockerfile可以快速部署一个特定环境的容器，用来运行深度学习模型，解决模型因为环境/版本不同而不能运行的问题。这篇博客主要解决ubuntu下通过Dockerfile创建容器。1.Docker安装这里可以参看我之前的博客ubuntu20.04下 nvidia-docker的安装并载入镜像看完安装就好，镜像载入，创建容器的工作我们都可以通过Dockerfile实现。2.准备工作需要明确运

折腾了一个多月的时间，成功实现了一些应用。学习过程中还是踩了不少坑的，所以在这里对整个构建过程进行整理，方便大家参考学习。

笔者在做GGUF量化和后续部署的过程中踩到了一些坑，这里记录一下。

笔者在做GGUF量化和后续部署的过程中踩到了一些坑，这里记录一下。