logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Ubuntu24.04使用 vLLM 部署本地 DeepSeek 模型与开机启动

参数会在环境中预装 pip 和 setuptools,确保基础工具可用。这个过程可能需要几分钟,因为 vLLM 包含了许多深度学习相关的依赖。安装完成后,重新加载终端环境或执行。使 UV 命令生效。

#linux#运维#服务器
到底了