logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

vllm 多卡部署模型卡死问题解决

这个问题从公司买了算力服务器开始,我就注意到了这个问题,但那个时候我的解决方式是,重启一下就好了。直到最近,我给算力服务器做了内核升级,重启也不好用了。

文章图片
本地跑Qwen-Image

我对问生图的模型,了解的很少,不太会用也不太会部署,本想研究一下,结果部署了很多次都没有成功,后来看到了这个文档,按照文章中描述的方式,成功了,再次借用一下原文链接:https://blog.csdn.net/2301_76444133/article/details/150112206?我使用的是原文中的第一个方法。

本地跑Qwen-Image

我对问生图的模型,了解的很少,不太会用也不太会部署,本想研究一下,结果部署了很多次都没有成功,后来看到了这个文档,按照文章中描述的方式,成功了,再次借用一下原文链接:https://blog.csdn.net/2301_76444133/article/details/150112206?我使用的是原文中的第一个方法。

本地跑Qwen-Image

我对问生图的模型,了解的很少,不太会用也不太会部署,本想研究一下,结果部署了很多次都没有成功,后来看到了这个文档,按照文章中描述的方式,成功了,再次借用一下原文链接:https://blog.csdn.net/2301_76444133/article/details/150112206?我使用的是原文中的第一个方法。

到底了