
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
vllm 多卡部署模型卡死问题解决
这个问题从公司买了算力服务器开始,我就注意到了这个问题,但那个时候我的解决方式是,重启一下就好了。直到最近,我给算力服务器做了内核升级,重启也不好用了。

本地跑Qwen-Image
我对问生图的模型,了解的很少,不太会用也不太会部署,本想研究一下,结果部署了很多次都没有成功,后来看到了这个文档,按照文章中描述的方式,成功了,再次借用一下原文链接:https://blog.csdn.net/2301_76444133/article/details/150112206?我使用的是原文中的第一个方法。
本地跑Qwen-Image
我对问生图的模型,了解的很少,不太会用也不太会部署,本想研究一下,结果部署了很多次都没有成功,后来看到了这个文档,按照文章中描述的方式,成功了,再次借用一下原文链接:https://blog.csdn.net/2301_76444133/article/details/150112206?我使用的是原文中的第一个方法。
本地跑Qwen-Image
我对问生图的模型,了解的很少,不太会用也不太会部署,本想研究一下,结果部署了很多次都没有成功,后来看到了这个文档,按照文章中描述的方式,成功了,再次借用一下原文链接:https://blog.csdn.net/2301_76444133/article/details/150112206?我使用的是原文中的第一个方法。
到底了







