logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

UOS V2500 沐曦mx-exporter监控加速卡(非K8S)

本文介绍了在UOS V25服务器操作系统上部署沐曦AI加速卡(C500)监控系统的完整流程。

#prometheus
统信 UOS + 沐曦 C500 容器化部署 SGLang 推理完整实操手册

本文介绍了在UOS V25服务器操作系统上部署沐曦C500加速卡AI推理服务的完整流程。环境配置包括浪潮AI服务器、沐曦驱动3.7.2.30和SDK 3.7.2.0。通过Docker容器化部署,使用uos-server-25-metax-sglang镜像,配置大内存和设备权限后启动服务。在容器内运行sglang.launch_server启动32B参数的DeepSeek-R1模型推理服务,开放91

统信 UOS + 沐曦 C500 容器化部署 vLLM 推理完整实操手册

本文介绍了在UOS V25服务器操作系统上部署沐曦AI加速卡(C500)的vLLM推理服务的完整流程。环境配置包括驱动(3.7.2.30)和SDK(3.7.2.0)安装,提供两种架构的Docker镜像拉取方式(x86/aarch64)。通过详细的docker run命令实现容器化部署,重点配置了GPU内存、并行计算等参数。服务启动后,通过curl发送测试请求验证功能,成功获取模型(DeepSeek

统信UOS+沐曦C500 基于Ray集群多节点vLLM部署方案

本文档为统信 UOS V25 + 鲲鹏 920 + 沐曦 C500 多节点 Ray 集群部署方案,给出双节点 vLLM 容器启动命令,含网卡、国产 GPU 适配环境变量,讲解 Ray 主从集群搭建流程,提供基于 Ray 分布式后端的 vLLM 多卡推理启动脚本。

统信UOS+沐曦C500 基于Ray集群多节点vLLM部署方案

本文档为统信 UOS V25 + 鲲鹏 920 + 沐曦 C500 多节点 Ray 集群部署方案,给出双节点 vLLM 容器启动命令,含网卡、国产 GPU 适配环境变量,讲解 Ray 主从集群搭建流程,提供基于 Ray 分布式后端的 vLLM 多卡推理启动脚本。

UOS V2500 沐曦驱动安装手册

本文档详细介绍了在UOS V25服务器操作系统上安装和配置沐曦C500 AI加速卡的完整流程。主要内容包括:环境准备(系统要求、硬件兼容性检查)、驱动安装(权限配置、DKMS支持)、固件升级(风险提示、操作步骤)、SDK开发环境部署(解压安装、环境变量配置)以及验证测试方法(驱动模块检查、工具链验证)。文档提供了不同硬件架构(x86/aarch64)的差异化操作指南,并包含关键步骤的预期输出示例,

#GPU
Ollama设置拉取模型本地保存路径和监听端口

Ollama设置拉取模型本地保存路径和监听端口。

文章图片
统信 UOS V2500 服务器 | OpenClaw AI Agent 全流程安装部署手册

本文档详细阐述在统信 UOS 服务器操作系统中安装、部署及初始化配置 OpenClaw 的全流程,为运维人员及开发人员可落地的操作指南,确保 OpenClaw 稳定部署并正常发挥其 AI 助手核心能力。

#AI
AI 大模型私有化部署:模型选择与资源规划指南

本文档提供了AI大模型私有化部署的完整指南,重点从资源需求测算、模型选型方法和部署实操三个维度展开。首先详细介绍了不同精度类型(INT4/INT8/FP16等)下模型参数与硬件资源(显存/内存/CPU)的对应关系,并给出推荐配置表。其次提出模型选型方法论,建议根据业务场景匹配参数规模和精度类型。最后以魔塔社区为例,给出模型下载和部署的具体操作步骤。文档强调"先算资源再选模型"的

#人工智能#大数据
统信UOS如何关闭防火墙

在UOS操作系统中,默认情况下是没有安装防火墙的。然而,作为保护系统安全的重要措施之一,安装并配置防火墙是至关重要的。本篇博客将教你如何安装和配置UFW,以加强你的系统安全。总结:通过执行上述步骤,你可以轻松地安装和配置UFW防火墙。启用防火墙可以提高系统的安全性,保护你的计算机免受恶意攻击。记得在需要临时关闭防火墙或查看防火墙状态时使用相应的命令。希望本篇教程对你有所帮助!请注意,使用防火墙时需

    共 20 条
  • 1
  • 2
  • 请选择