
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
接上文,deepseak在本地部署成功,而在命令行中使用,功能太少,界面又太毛胚,此时若使用浏览器添加扩展即可使用如下的ui界面来使用你本地的deepseak。现在打开是这个页面,当你本地下载的模型正常通过ollama运行时,此时这个页面左上角会有选项可以选择你本地的模型。将你下载到本地的这个插件直接拖入进上面的那个扩展页面,然后点击弹窗中的添加扩展。第一步:打开浏览器,找到扩展,打开,点击管理扩

服务器端开放端口,使用firewall-cmd开放端口,要开放80,8000,还要在云服务器的控制台,安全组中配置出方向规则,要开放上述两个端口。此处笔者在开放本地部署端口时,想用其他的端口,比如说8085,而且在安全组增加这个端口,在实际操作中,云服务器上可以通过curl 0.0.0.0:8085请求到本地部署的Open-WebUI的内容,即页面的代码,但是你在本地用云服务器的公网ip:8085

接上文,deepseak在本地部署成功,而在命令行中使用,功能太少,界面又太毛胚,此时若使用浏览器添加扩展即可使用如下的ui界面来使用你本地的deepseak。现在打开是这个页面,当你本地下载的模型正常通过ollama运行时,此时这个页面左上角会有选项可以选择你本地的模型。将你下载到本地的这个插件直接拖入进上面的那个扩展页面,然后点击弹窗中的添加扩展。第一步:打开浏览器,找到扩展,打开,点击管理扩

总的来说,根据以下步骤操作,基本上都可以实现在你本地部署一个deepseak的蒸馏模型,此文展示的是7B版本的部署,如有相同需要,可用于参考。仅在命令行使用不太方便,我们可以参考ollama提供的web-ui界面,在浏览器中安装一个扩展,就可以实现在浏览器中调用你本地部署的deepseak模型。此时返回ollama的官网,点击Model,因为我们要部署的是7B的模型,所以我们通过ollama直接下

在此目录下执行下面的两个命令,安装依赖和waitress,执行pip install -r requirements.txt安装依赖的时间不短,此时可以先将数据库准备好。通俗的说,就是将前端打包好的dist文件夹下的静态文件放到你nginx.conf中指定的静态文件的存放目录下,会根据实际情况修改nginx.conf文件。下面截图是项目在D:\project\RMPA\code\server,所以

接上文,deepseak在本地部署成功,而在命令行中使用,功能太少,界面又太毛胚,此时若使用浏览器添加扩展即可使用如下的ui界面来使用你本地的deepseak。现在打开是这个页面,当你本地下载的模型正常通过ollama运行时,此时这个页面左上角会有选项可以选择你本地的模型。将你下载到本地的这个插件直接拖入进上面的那个扩展页面,然后点击弹窗中的添加扩展。第一步:打开浏览器,找到扩展,打开,点击管理扩








