写文章
- @airtobreath
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
ubuntu安装vllm遇到的坑
本文记录了在安装vllm 0.19.0时遇到的问题及解决方法。主要步骤包括：创建Python 3.10虚拟环境，通过特殊源安装vllm。遇到的典型问题包括CUDA版本不匹配（libcudart.so.13缺失）、符号链接错误（__nvJitLinkGetErrorLogSize_12_9未定义）等。解决方法涉及：使用patchelf添加运行时路径、设置LD_LIBRARY_PATH环境变量指向正确
到底了