写文章
- @luxyxy
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
vllm部署自己的大模型
安装vllm后 vllm serve ./DeepSeek-R1-0528-Qwen3-8B --tensor-parallel-size 1 --max-model-len 1000 --served-mode-name DeepSeekR1-8B启动。git clone https://www.modelscope.cn/deepseek-ai/DeepSeek-R1-0528-Qwen3-8
到底了