logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

信创踩坑实录:海光 CPU-7470 跑不起 Calico 3.26.1+?指令集兼容性排查与降级解决

国产 CPU 环境升级组件前,先查指令集等级lscpu看 flags,用确认支持情况,再决定能不能上高版本;关注 release notes 里的"基础镜像变更":这类改动往往不写进功能特性里,但最容易在国产 CPU 上引发兼容性灾难(Calico 3.27 换基础镜像就是教训);版本锁定是生产第一原则:对信创环境,宁可"版本落后",不要"带病升级";跑通的版本组合(如本案例 3.25.2)记录进

#kubernetes#云原生#容器 +1
Slurm 集群踩坑复盘:openEuler 22.03 + Slurm 23.02.7

Slurm 官方文档很全,但更适合查,不适合通读。实际故障大多出在配置交叉点:munge 和 slurmd 的认证关系、slurmdbd 和 slurmctld 的升级顺序、cgroup v1/v2 的挂载差异、gres 命名和变量注入的隐性约定。文档各章节都有,但很少有人会把这几项串在一起排查。目前集群还固守在 23.02.7,升级节奏另行规划。本文基于实际环境整理,部分配置已脱敏;关键参数请以

#云原生
Kubernetes 异构算力调度与虚拟化实战:Volcano + HAMi 在昇腾 NPU 集群的落地

Volcano:批量调度的事实标准,队列/优先级/Gang/公平调度一站式解决;HAMi:异构虚拟化中间件,一张昇腾卡切成多个细粒度实例,多芯适配(昇腾/海光/寒武纪)贴合信创诉求;两者互补:调度层决策"往哪跑",设备层解决"怎么共享",是昇腾 NPU 集群资源池化的成熟路径。多芯异构统一池:同一集群纳管昇腾 + 海光 + NVIDIA,用统一资源名做跨芯调度;任务队列治理:结合公司多租户场景设计

#kubernetes#容器#云原生
Kubernetes 异构算力调度与虚拟化实战:Volcano + HAMi 在昇腾 NPU 集群的落地

Volcano:批量调度的事实标准,队列/优先级/Gang/公平调度一站式解决;HAMi:异构虚拟化中间件,一张昇腾卡切成多个细粒度实例,多芯适配(昇腾/海光/寒武纪)贴合信创诉求;两者互补:调度层决策"往哪跑",设备层解决"怎么共享",是昇腾 NPU 集群资源池化的成熟路径。多芯异构统一池:同一集群纳管昇腾 + 海光 + NVIDIA,用统一资源名做跨芯调度;任务队列治理:结合公司多租户场景设计

#kubernetes#容器#云原生
Grafana 监控大屏设计实战:GPU/NPU 异构集群 53 面板大盘是怎么搭出来的

大屏先分层再放面板:概览 → 趋势 → 下钻,顺序错了就变"监控壁纸";异构区块保持同构:GPU 有什么面板,NPU 就有什么面板,vGPU 和 vNPU 也 1:1 对齐——运维只记一套布局;变量联动链是灵魂:Node → NameSpace → Container → Pod → GPU,上级过滤下级,allValue语义别写错;口径比面板重要:显存用、CPU 除以 allocatable、带

#grafana#prometheus
昇腾910B/910C 多模态模型私有化部署实战:11 个模型 + Nginx 统一 API 网关

在私有化环境中完成 LLM 与多模态(文生视频、文生音频/音乐、语音识别、视觉理解、RAG 组件)模型的推理服务部署,并通过 Nginx 统一 API 网关对外提供服务。由于多模态接口(视频 / 音频 / 语音)需要自建推理服务,本文方案将全部模型服务统一自建、单实例部署,不依赖任何外部模型管理平台。各模型推理框架直接暴露 HTTP API,通过 Nginx 统一网关(Node-6)按路径路由到对

#nginx#xcode#运维
昇腾910B/910C 多模态模型私有化部署实战:11 个模型 + Nginx 统一 API 网关

在私有化环境中完成 LLM 与多模态(文生视频、文生音频/音乐、语音识别、视觉理解、RAG 组件)模型的推理服务部署,并通过 Nginx 统一 API 网关对外提供服务。由于多模态接口(视频 / 音频 / 语音)需要自建推理服务,本文方案将全部模型服务统一自建、单实例部署,不依赖任何外部模型管理平台。各模型推理框架直接暴露 HTTP API,通过 Nginx 统一网关(Node-6)按路径路由到对

#nginx#xcode#运维
昇腾910B/910C 多模态模型私有化部署实战:11 个模型 + Nginx 统一 API 网关

在私有化环境中完成 LLM 与多模态(文生视频、文生音频/音乐、语音识别、视觉理解、RAG 组件)模型的推理服务部署,并通过 Nginx 统一 API 网关对外提供服务。由于多模态接口(视频 / 音频 / 语音)需要自建推理服务,本文方案将全部模型服务统一自建、单实例部署,不依赖任何外部模型管理平台。各模型推理框架直接暴露 HTTP API,通过 Nginx 统一网关(Node-6)按路径路由到对

#nginx#xcode#运维
昇腾910B/910C 多模态模型私有化部署实战:11 个模型 + Nginx 统一 API 网关

在私有化环境中完成 LLM 与多模态(文生视频、文生音频/音乐、语音识别、视觉理解、RAG 组件)模型的推理服务部署,并通过 Nginx 统一 API 网关对外提供服务。由于多模态接口(视频 / 音频 / 语音)需要自建推理服务,本文方案将全部模型服务统一自建、单实例部署,不依赖任何外部模型管理平台。各模型推理框架直接暴露 HTTP API,通过 Nginx 统一网关(Node-6)按路径路由到对

#nginx#xcode#运维
到底了