
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
从 pip not found 到 VLLM 成功运行的全程实录
大家好!今天我想分享一次我部署本地大模型的完整经历。我的目标是在我的Windows电脑上,通过WSL2(Ubuntu)环境,使用ModelScope下载模型,并用VLLM框架来启动一个本地的API服务。整个过程一波三折,我几乎遇到了所有新手可能会踩的坑:从环境配置、网络问题,到最后的显存不足。这篇博客记录了每一个问题和它的解决方案,希望能为同样走在这条路上的朋友们提供一份避坑指南。我的环境:操作系

到底了







