logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

DeepSeek Janus-Pro 部署

ssh -L 8890:127.0.0.1:7860-L8891:127.0.0.1:7861服务器用户名@服务器IP(xxx.xxx.x.xxx)-p服务器的登录端口(abcd)之后,可以打开多个终端窗口,每个窗口运行一个 ssh -L 命令,同时转发Janus-Pro-7B和Janus-Pro-1B的端口。当问题的限制比较多时,Janus-Pro-7B会严格遵循格式回答,Janus-Pro-1

文章图片
#深度学习#人工智能
DeepSeek Janus-Pro 部署

使用cuda的时候,我的GPU遇到一些问题,需要把app_januspro.py里面的l torch.float16 改成 torch.bfloat16 才能正常工作。将demo文件夹中的app_januspro.py复制到主目录下,运行。在新建的环境里安装支持cuda的torch和torchvision。利用conda创建一个Python虚拟环境。

#深度学习#人工智能
到底了