本文详细介绍了在Ubuntu 22.04系统下配置AI服务器环境及运行大模型的完整流程。主要内容包括：1）基础环境配置，如安装编译工具、禁用开源Nouveau驱动；2）高速网络配置，安装RDMA组件并进行8卡通信测试；3）解决nccl-tests编译常见问题；4）GPU压力测试；5）安装conda环境和vllm推理引擎；6）从魔搭社区下载通义千问32B模型。文章提供了完整的命令行操作指南，涵盖从系

MGR 是一个新的高可用与高扩展的方案，集群中的任何节点数据都是一样的，可以实现任何节点都可以写入，实现了真正意义上的多主。

MGR 是一个新的高可用与高扩展的方案，集群中的任何节点数据都是一样的，可以实现任何节点都可以写入，实现了真正意义上的多主。

我们可以把安装日志下载下来然后用vscode打开搜索here然后看到如图发现我们的gcc版本过低需要9.3.1-2版本才可以所以我们需要升级我们的gcc。），根据自己的显卡信息选择适合的驱动型号和版本，保存为.run文件。至此我们的驱动安装完成可以使用nvidia-smi命令查看。这里是本人在安装驱动时踩得一个小坑花费了两天时间特此分享。将我们刚刚下载好的英伟达驱动推送至我们的服务器。我们在安装英