logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

2. docker部署本地模型-ollama

访问IP:3080,设置登录账号密码,如果是外部的Ollama,右上角设置—管理员设置—外部链接进行添加。验证 Ollama 容器是否正常运行。访问IP:3080,设置登录账号密码。重新加载即可,会弹出下载的模型文件。

#docker#容器#运维
vllm部署大模型全整合(多种部署)

本文介绍了在Ubuntu 22.04系统上配置GPU服务器集群的详细步骤。部署vllm服务:单机单卡部署、多级单卡部署、k8s单机部署、k8s集群Ray部署

文章图片
#人工智能#kubernetes
vllm部署大模型全整合(多种部署)

本文介绍了在Ubuntu 22.04系统上配置GPU服务器集群的详细步骤。部署vllm服务:单机单卡部署、多级单卡部署、k8s单机部署、k8s集群Ray部署

文章图片
#人工智能#kubernetes
vllm部署大模型全整合(多种部署)

本文介绍了在Ubuntu 22.04系统上配置GPU服务器集群的详细步骤。部署vllm服务:单机单卡部署、多级单卡部署、k8s单机部署、k8s集群Ray部署

文章图片
#人工智能#kubernetes
4. 部署postgresql服务并监控postgresql

如果这些 groups 都存在,说明 Prometheus 已经成功加载你的规则。

#postgresql#数据库
PostgreSQL高可用(Patroni + etcd + Keepalived)

脚本作用:检测当前节点是否为 Patroni Leader,是则返回 0(健康),否则返回 1(异常),Keepalived 根据结果调整节点优先级。内核参数尽量禁用 swap、防止内存超分配被 OOM 杀死,加大共享内存供 PG 使用。放开 postgres 用户文件数、进程数、内存锁定限制,避免高并发时报错、连不上库。先启动初始主节点 pg-master,完成数据库初始化后,再启动两个从节点。

文章图片
#postgresql#etcd#数据库
2. docker部署本地模型-ollama

访问IP:3080,设置登录账号密码,如果是外部的Ollama,右上角设置—管理员设置—外部链接进行添加。验证 Ollama 容器是否正常运行。访问IP:3080,设置登录账号密码。重新加载即可,会弹出下载的模型文件。

#docker#容器#运维
2. 部署mysql服务并监控mysql

***:覆盖连接数、QPS、InnoDB 状态、慢查询等核心指标,适配 Prometheus + mysqld_exporter。:说明 Prometheus 已成功发现并采集 mysql-exporter 的指标(监控链路完全打通);:采集失败(鼠标悬停在红色的 Down 上,会显示具体错误原因,比如端口不通、超时等);如果这些 groups 都存在,说明 Prometheus 已经成功加载你的

#mysql#adb#数据库
    共 18 条
  • 1
  • 2
  • 请选择