
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
国产 CPU 环境升级组件前,先查指令集等级lscpu看 flags,用确认支持情况,再决定能不能上高版本;关注 release notes 里的"基础镜像变更":这类改动往往不写进功能特性里,但最容易在国产 CPU 上引发兼容性灾难(Calico 3.27 换基础镜像就是教训);版本锁定是生产第一原则:对信创环境,宁可"版本落后",不要"带病升级";跑通的版本组合(如本案例 3.25.2)记录进
Slurm 官方文档很全,但更适合查,不适合通读。实际故障大多出在配置交叉点:munge 和 slurmd 的认证关系、slurmdbd 和 slurmctld 的升级顺序、cgroup v1/v2 的挂载差异、gres 命名和变量注入的隐性约定。文档各章节都有,但很少有人会把这几项串在一起排查。目前集群还固守在 23.02.7,升级节奏另行规划。本文基于实际环境整理,部分配置已脱敏;关键参数请以
Volcano:批量调度的事实标准,队列/优先级/Gang/公平调度一站式解决;HAMi:异构虚拟化中间件,一张昇腾卡切成多个细粒度实例,多芯适配(昇腾/海光/寒武纪)贴合信创诉求;两者互补:调度层决策"往哪跑",设备层解决"怎么共享",是昇腾 NPU 集群资源池化的成熟路径。多芯异构统一池:同一集群纳管昇腾 + 海光 + NVIDIA,用统一资源名做跨芯调度;任务队列治理:结合公司多租户场景设计
Volcano:批量调度的事实标准,队列/优先级/Gang/公平调度一站式解决;HAMi:异构虚拟化中间件,一张昇腾卡切成多个细粒度实例,多芯适配(昇腾/海光/寒武纪)贴合信创诉求;两者互补:调度层决策"往哪跑",设备层解决"怎么共享",是昇腾 NPU 集群资源池化的成熟路径。多芯异构统一池:同一集群纳管昇腾 + 海光 + NVIDIA,用统一资源名做跨芯调度;任务队列治理:结合公司多租户场景设计
大屏先分层再放面板:概览 → 趋势 → 下钻,顺序错了就变"监控壁纸";异构区块保持同构:GPU 有什么面板,NPU 就有什么面板,vGPU 和 vNPU 也 1:1 对齐——运维只记一套布局;变量联动链是灵魂:Node → NameSpace → Container → Pod → GPU,上级过滤下级,allValue语义别写错;口径比面板重要:显存用、CPU 除以 allocatable、带
在私有化环境中完成 LLM 与多模态(文生视频、文生音频/音乐、语音识别、视觉理解、RAG 组件)模型的推理服务部署,并通过 Nginx 统一 API 网关对外提供服务。由于多模态接口(视频 / 音频 / 语音)需要自建推理服务,本文方案将全部模型服务统一自建、单实例部署,不依赖任何外部模型管理平台。各模型推理框架直接暴露 HTTP API,通过 Nginx 统一网关(Node-6)按路径路由到对
在私有化环境中完成 LLM 与多模态(文生视频、文生音频/音乐、语音识别、视觉理解、RAG 组件)模型的推理服务部署,并通过 Nginx 统一 API 网关对外提供服务。由于多模态接口(视频 / 音频 / 语音)需要自建推理服务,本文方案将全部模型服务统一自建、单实例部署,不依赖任何外部模型管理平台。各模型推理框架直接暴露 HTTP API,通过 Nginx 统一网关(Node-6)按路径路由到对
在私有化环境中完成 LLM 与多模态(文生视频、文生音频/音乐、语音识别、视觉理解、RAG 组件)模型的推理服务部署,并通过 Nginx 统一 API 网关对外提供服务。由于多模态接口(视频 / 音频 / 语音)需要自建推理服务,本文方案将全部模型服务统一自建、单实例部署,不依赖任何外部模型管理平台。各模型推理框架直接暴露 HTTP API,通过 Nginx 统一网关(Node-6)按路径路由到对
在私有化环境中完成 LLM 与多模态(文生视频、文生音频/音乐、语音识别、视觉理解、RAG 组件)模型的推理服务部署,并通过 Nginx 统一 API 网关对外提供服务。由于多模态接口(视频 / 音频 / 语音)需要自建推理服务,本文方案将全部模型服务统一自建、单实例部署,不依赖任何外部模型管理平台。各模型推理框架直接暴露 HTTP API,通过 Nginx 统一网关(Node-6)按路径路由到对







