logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

在ubuntu24.04上安装Ollama并设置跨域访问

Ollama 是一个基于 Go 语言开发的简单易用的本地大模型运行框架。它同时支持Nvidia和AMD显卡,最主要的是国内下载模型的速度很快。我们在前几期文章中介绍的lobechat,oneapi等应用,可以方便的利用ollama构建本地大模型运行平台。接下来我们就介绍如何构建ollama的运行平台。

文章图片
#linux#服务器#ubuntu
使用OneAPI+Ollama+Dify搭建一个兼容OpenAI的API发布及AI应用开发系统(三)Dify的安装及配置

在这里填上:模型名称,API Key、API Base URL,也就是上一节我们讲的One-API所提供的API-Key这样,我们就完成一个LLM模型的配置。由于Dify的结构非常的复杂,我们这里介绍Docker的方式进行安装,硬件的最低要求:2C4G,要求不算太高。在GitHub中的AI工作流短代码平台中,Dify获星一直名列前茅,目前已达48K星,其工作稳定性也是非常的高,在这里我们介绍一下D

文章图片
#云原生
在Ubuntu22.04上部署ComfyUI

ComfyUI 是 一个基于节点流程的 Stable Diffusion 操作界面,可以通过流程,实现了更加精准的工作流定制和完善的可复现性。每一个模块都有特定的的功能,我们可以通过调整模块连接达到不同的出图效果,特点如下:

文章图片
使用OneAPI+Ollama+Dify搭建一个兼容OpenAI的API发布及AI应用开发系统(二)客户端设置

这一编我们介绍Ollama客户端的设置,那么客户端在这里指的就是你放在家里的Ollama服务器,通过与VPS里安装的OneAPI配合,从而实现了为Ollama生成API访问的服务,并为后端服务器提供安全保障。(2)虚拟主机VPS提供商处提供的防火墙无需放通,因为11434端口通过VPN隧道过去了。这也说明了VPN的安全性。客户端软件的部署请大家自行查找,为使项目可以完成,这里就不再介绍了。渠道设置

文章图片
#oneapi
统一回复OneAPI:failed to get gpt-3.5-turbo token encoder的解决办法

源码方式安装后启动OneAPI时提示failed to get gpt-3.5-turbo token encode,缺少编码文件的解决办法。

文章图片
#oneapi#gpt-3
使用stable diffussion插件StableSR将图片高清放大

使用stable diffussion插件StableSR将图片高清放大

文章图片
#深度学习#人工智能
医学影像中的坐标系

坐标系是一种识别点位置的方法。在医学界,成像应用中常用的坐标系有三种:全局坐标系、解剖学坐标系和医学图像坐标系。

#机器学习#深度学习#图像处理
自建家用防火墙-pfSense

pfSense防火墙具有:包过滤功能、NAT模式部署、负载均衡,双机热备、VPN等重要功能,支持报告生成功能,还可以通过SNMP进行集中管理。在开源防火墙市场中,pfSense占有领先的地位。这里我们说一下家用系统为什么需要防火墙,对于灵活就业的软件开发者来说,在家办,下载,搭建开发平台等,另外还有个人和家庭的照片等资料防止未经授权外传,防火墙就比较重要了。另一方面目前宽带业务最小到桌面的也有20

#运维开发#服务器#网络安全 +1
在Debian11安装Proxmox VE 7及设置GPU工作环境

我们在测试大模型,深度学习的过程中,可能遇到的情况就是不断的清空系统,避免老系统中安装的软件对测试系统造成影响,导致测试结果不准确或莫名报错。今天为小伙伴们介绍使用PVE7做成一个人工智能开发和测试的平台,你可以在这个平台上任意设置虚拟机进行测试,可以对已经测试过的系统进行备份,随时还原原系统状态。

文章图片
Flowise+OneAPI+Ollama搭建本地知识库问答

使用Flowise、OneAPI、Ollama搭建本地知识库问题,首选你要准备三台虚拟机,分别将这三种应用进行部署,默认使用的操作系统Ubuntu22.04。

文章图片
#oneapi#人工智能
    共 27 条
  • 1
  • 2
  • 3
  • 请选择