logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Ollama配置webui连接大预言模型

默认ollama安装后,chat对话只有命令行界面,交互体验较差。借助open-webui可以通过web界面连接ollama,从而实现类似chatgpt式的web交互体验。使用 Docker 安装 Open WebUI 时,请确保在 Docker 命令中包含 -v open-webui:/app/backend/data,用于保存数据。点击右上角设置图标,打开设置窗口,如下图,输入型号标签(如ll

文章图片
#后端
LM Studio本地离线部署大语言模型

使用LM Studio快速体验大模型工具,免除Python环境及众多依赖组件的安装。可以切换不同类型的大语言模型,同时支持在windows、linux、mac等PC端部署。除了UI界面的chat对话使用之外,也可以在本地启动服务器,使用接口进行调试。本地路径查询如下,LM Studio-Mymodel-show in File Explorer。直接使用lmstudio下载模型会失败,本文采用离线

文章图片
#后端
搭建NFS服务器

记录linux下搭建使用NFS服务器的一般步骤,以和centos7.9操作进行记录。

文章图片
#服务器#linux
Harbor系列之4:使用Harbor chart部署到Kubernetes环境

之前harbor的安装都是借助docker完成一键安装部署,安装完成之后harbor组件均运行到一台机器上面,本文实践harbor在k8s环境中的部署。

使用kubeadm对K8S节点进行扩容

已经完成k8s集群的搭建,使用一段时间后,需要增加k8s节点的数量。借助kubeadm完成k8s节点的横向扩容。下面以centos7.9下面部署的一套1master+2worker节点环境,扩容一个worker节点为例。

文章图片
#kubernetes#容器#云原生
Kubernetes基于helm部署gitlab

gitlab支持多种安装方式,有二进制安装、helm cahrt安装、operator安装、docker安装以及基于源码构建等。本文主要介绍在k8s环境下基于helm包进行安装。gitlab包括通用版本和中文版本(极狐),极狐为中外合资公司发布的版本。

文章图片
#kubernetes#gitlab#devops
Centos7.9部署单节点K8S环境

通过Centos extras镜像源安装K8S环境,优点是方便快捷,缺点是版本较低,安装后的版本为1.5.2。

文章图片
#kubernetes#容器#云原生
kubemark模拟5000节点实测记录

记录使用kubemark工具模拟5000个k8s节点。

文章图片
#kubernetes#容器
Kubernetes集群性能测试之kubemark集群搭建

Kubemark是K8s官方提供的一个对K8s集群进行性能测试的工具。它可以模拟出一个K8s cluster(Kubemark cluster),不受资源限制,从而能够测试的集群规模比真实集群大的多。这个cluster中master是真实的机器,所有的nodes是Hollow nodes。Hollow nodes执行的还是真实的K8s程序,只是不会调用Docker,因此测试会走一套K8s API调

文章图片
#kubernetes
    共 31 条
  • 1
  • 2
  • 3
  • 4
  • 请选择