ubuntu conda 安装vllm
本文介绍了如何安装最新稳定版vLLM及其CUDA 13.1依赖。首先激活conda环境，然后通过清华镜像源安装最新版vLLM，并指定CUDA 13.1的额外索引URL。安装完成后，可通过Python命令验证vLLM版本，预期输出为vLLM版本：0.18.0。整个过程包括环境准备、软件安装和版本验证三个步骤。
·
一、安装最新稳定版
#conda activate vllm
#pip install -U pip
# 安装最新 vLLM
pip install vllm -U -i https://pypi.tuna.tsinghua.edu.cn/simple
# 安装最新 vLLM + CUDA 13.1 依赖
pip install vllm -U -i https://pypi.tuna.tsinghua.edu.cn/simple --extra-index-url https://download.pytorch.org/whl/cu131
wsl2 ubuntu 默认共享Windows的Nvidia驱动，不用装Nvidia驱动了。
二、验证版本
vllm --version
0.18.0
或
python -c "import vllm; print('vLLM 版本：', vllm.__version__)"
# 应输出：vLLM 版本：0.18.0
免费领 100 小时云算力，进群参与显卡、AI PC 幸运抽奖
更多推荐
0
0- 0
已为社区贡献4条内容
所有评论(0)