logo
publist
写文章

简介

CubeStudio 是开源(MIT)云原生一站式机器学习 / 深度学习 / 大模型 AI 平台(MLOps / MaaS),提供算法全链路能力:Notebook 在线开发、拖拉拽 pipeline 编排、超参搜索、多机多卡分布式训练、VGPU 推理服务、DeepSeek 等大模型 SFT 微调与强化学习、vLLM / Ollama 多机推理、私有知识库 LLMOps、AI 模型市场与自动化标注。国内开源 MLOps GitHub Star 第一,数千家企业私有化部署;兼容十余种国产异构算力(昇腾 / 寒武纪 / 海光 / 摩尔 / 沐曦),支持 RDMA 与信创,支持源码交付、可授权改造为自有产品。

擅长的技术栈

可提供的服务

暂无可提供的服务

昇腾 910B 怎么跑 DeepSeek 多机分布式推理?CubeStudio MindIE 部署实操(hccn_tool 网卡 / ranktable / HCCL 全参数)

CubeStudio是一款国产化、云原生的一站式开源AI平台,支持昇腾等国产算力,原生适配910B/310P NPU,实现DeepSeek等大模型的单机多卡与多机分布式推理。本文详解基于MindIE引擎的多机部署全流程:通过hccn_tool配置NPU参数面网络,生成ranktable.json拓扑文件,设置HCCL通信与环境变量(如RANK_TABLE_FILE、WORLD_SIZE),并结合C

文章图片
#分布式#kubernetes#云原生 +3
昇腾 910B 怎么跑 DeepSeek 多机分布式推理?CubeStudio MindIE 部署实操(hccn_tool 网卡 / ranktable / HCCL 全参数)

CubeStudio是一款国产化、云原生的一站式开源AI平台,支持昇腾等国产算力,原生适配910B/310P NPU,实现DeepSeek等大模型的单机多卡与多机分布式推理。本文详解基于MindIE引擎的多机部署全流程:通过hccn_tool配置NPU参数面网络,生成ranktable.json拓扑文件,设置HCCL通信与环境变量(如RANK_TABLE_FILE、WORLD_SIZE),并结合C

文章图片
#分布式#kubernetes#云原生 +3
昇腾 NPU 一卡多用怎么做?CubeStudio 昇腾 vNPU 静态切分实操(910B3:npu-smi 切分 + K8s 挂载 + PyTorch 验证)

CubeStudio是一款国产化、云原生的一站式开源AI平台,支持昇腾、寒武纪等国产算力,原生适配vNPU虚拟化。本文以昇腾910B3为例,详解通过npu-smi静态切分、device-plugin改造、K8s资源上报及PyTorch实测全流程,实现一卡多用,显著提升算力利用率。平台支持多租户、分布式训练与大模型微调,助力企业低成本高效部署AI应用。

文章图片
#kubernetes#云原生#人工智能 +4
昇腾 NPU 一卡多用怎么做?CubeStudio 昇腾 vNPU 静态切分实操(910B3:npu-smi 切分 + K8s 挂载 + PyTorch 验证)

CubeStudio是一款国产化、云原生的一站式开源AI平台,支持昇腾、寒武纪等国产算力,原生适配vNPU虚拟化。本文以昇腾910B3为例,详解通过npu-smi静态切分、device-plugin改造、K8s资源上报及PyTorch实测全流程,实现一卡多用,显著提升算力利用率。平台支持多租户、分布式训练与大模型微调,助力企业低成本高效部署AI应用。

文章图片
#kubernetes#云原生#人工智能 +4
GraphQL 、flask-graphql、Graphene| 一种配得上凡尔赛的API框架

​当我们使用flask构建一个简单应用时,我们通常会像下面这样构建该应用:from flask import Flaskimport jsonapp = Flask(__name__)​​@app.route("/")def homepage():return "Welcome!"​@app.route("/get_response", methods=['GET'])def response()

#graphql#flask
k8s上安装并初始化Helm,helm基础使用教程

helm简介Helm 可以理解为 Kubernetes 的包管理工具,可以方便地发现、共享和使用为Kubernetes构建的应用。1.Helm的三个基本概念Chart:Helm应用(package),包括该应用的所有Kubernetes manifest模版,类似于YUM RPM或Apt dpkg文件Repository:Helm package存储仓库Release:char...

#k8s#spark
自动化运维工具(ansible入门教程)

Ansible是一个配置管理和配置工具,类似于Chef,Puppet或Salt。这是一款很简单也很容易入门的部署工具,它使用SSH连接到服务器并运行配置好的任务,服务器上不用安装任何多余的软件,只需要开启ssh,所有工作都交给client端的ansible负责。关于Ansible的一个好处是,将bash脚本转换为可执行任务是非常容易的。我们可以编写自己的配置程序,但是Ansible更加干净,因为.

#自动化#运维#ansible
C#正则表达式Regex类的用法

一、C#正则表达式符号模式字  符描  述\转义字符,将一个具有特殊功能的字符转义为一个普通字符,或反过来^匹配输入字符串的开始位置$匹配输入字符串的结束位置*匹配前面的零次或多次的子表达式+匹配前面的一次或多次的子表达式?匹配前面的零次或一次的子表达式{n}n是一个非负整数,匹配前面的n次子表达式{n,}n是一个非负...

#c#
k8s中实现自动数据库初始化(mysql,postgresql)

我们知道在代码里面创建数据库链接需要先有database,但是我们刚刚部署的数据库可能还没有database或者没有指定权限的用户,这就要求我们在部署完数据库以后手动链接,创建数据库和用户.有两种方式来实现自动化, 这里以mysql为例通过环境变量实现在k8s中部署mysql时,可以传环境变量指定,例如下面的yaml文件apiVersion: apps/v1kind: Deploy...

#k8s#mysql#postgresql +1
jenkins使用入门(邮件、ssh、git、SonarQube、pipline)

jenkins部署可以参考:https://blog.csdn.net/luanpeng825485697/article/details/82945004进入jenkins主页登录以后新建任务选择构建一个自由风格的软件项目ssh插件点击-系统管理-系统插件-可选插件中 直接搜 publish over ssh 点击安装,安装完之后,重启jenkins配置ssh1,系统管理-&am

#jenkins#ssh#git +1
    共 254 条
  • 1
  • 2
  • 3
  • 26
  • 请选择