
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
Dify平台私有化部署
然后创建服务器,同时把命名改掉方便后面区分,这里因为我的Ollama和Dify部署在同一个服务器上,Xinference部署在另一台服务器上,所以就直接命名区分开。注意,在修改文件时,需要是英文状态下,按下a就能进如编辑模式,这个端口号位置在最后,修改完后,esc键就会变为指令模式,然后冒号+wq,然后回车就能保存退出了。当然这只是这个平台,像算力云就不存在,所以要根据自己所选平台进行操作。下载成

Xinference部署
首先就是确认自己的python版本,建议使用3.10及以上,太低的安装过程会比较多的问题,我这里使用的python版本是3.10,如果不是也可以在当前的环境中创建镜像,然后在镜像上面进行部署安装。经过漫长的等待后,终于安装成功,在这过程中,如果遇到报某个包没装的话,就是pip install一下,或者问问千问或者dp会有对应的具体解决办法,我这里运气很好没有报错,之前其他地方的时候遇到过。),接下

Dify平台私有化部署
然后创建服务器,同时把命名改掉方便后面区分,这里因为我的Ollama和Dify部署在同一个服务器上,Xinference部署在另一台服务器上,所以就直接命名区分开。注意,在修改文件时,需要是英文状态下,按下a就能进如编辑模式,这个端口号位置在最后,修改完后,esc键就会变为指令模式,然后冒号+wq,然后回车就能保存退出了。当然这只是这个平台,像算力云就不存在,所以要根据自己所选平台进行操作。下载成

到底了







