logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

基于MindIE SD进行vLLM-Omni Wan2.2性能优化实践

本文通过Wan2.2入手,介绍了视频生成模型的结构和常用的优化思路,以及如何将MindIE SD中的加速能力使能到vLLM-Omni框架中。并且基于vLLM-Omni镜像部署Wan2.2的在线服务。未来,MindIE SD将持续为vLLM-Omni等主流框架贡献昇腾亲和的极致加速能力,也欢迎大家参与MindIE SD社区和vLLM-Omni社区的代码贡献!

#性能优化#人工智能
基于MindIE SD进行vLLM-Omni Wan2.2性能优化实践

本文通过Wan2.2入手,介绍了视频生成模型的结构和常用的优化思路,以及如何将MindIE SD中的加速能力使能到vLLM-Omni框架中。并且基于vLLM-Omni镜像部署Wan2.2的在线服务。未来,MindIE SD将持续为vLLM-Omni等主流框架贡献昇腾亲和的极致加速能力,也欢迎大家参与MindIE SD社区和vLLM-Omni社区的代码贡献!

#性能优化#人工智能
到底了