
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
vllm不支持Nvidia最新驱动cu129的解决办法
在Arch Linux上安装vLLM时遇到NVIDIA驱动问题,解决方案来自Reddit。步骤包括:克隆vLLM仓库、创建Python虚拟环境、安装特定版本的PyTorch(需修改为cu129),最后编译安装vLLM。整个过程可能耗时20分钟以上,建议使用-v参数查看进度。该方法适用于在8G显存的4060显卡上运行Qwen0.6B模型时出现的显存不足问题。

ChatTTS部署(2025年最新部署)
ubuntu22.04.5(可联网)有一点点linux基础,按照这个办法是绝对可以部署成功的,而且不会报错。
到底了







