logo
publist
写文章

简介

CubeStudio 是开源(MIT)云原生一站式机器学习 / 深度学习 / 大模型 AI 平台(MLOps / MaaS),提供算法全链路能力:Notebook 在线开发、拖拉拽 pipeline 编排、超参搜索、多机多卡分布式训练、VGPU 推理服务、DeepSeek 等大模型 SFT 微调与强化学习、vLLM / Ollama 多机推理、私有知识库 LLMOps、AI 模型市场与自动化标注。国内开源 MLOps GitHub Star 第一,数千家企业私有化部署;兼容十余种国产异构算力(昇腾 / 寒武纪 / 海光 / 摩尔 / 沐曦),支持 RDMA 与信创,支持源码交付、可授权改造为自有产品。

擅长的技术栈

可提供的服务

暂无可提供的服务

怎么把 HuggingFace 大模型部署成 OpenAI 兼容 API?CubeStudio 大模型推理服务实操(vLLM / Ollama / MindIE / TensorRT-LLM 一键上线

CubeStudio是一款国产化、云原生的一站式开源AI平台,支持大模型全链路部署与管理。其推理服务模块内置vLLM、Ollama、TensorRT-LLM、MindIE等多框架,统一提供OpenAI兼容接口,自动处理张量/流水并行、端口配置与健康检查。平台原生适配昇腾、寒武纪等国产算力,支持多机多卡分布式训练与推理,实现从数据到上线的全流程自动化。通过拖拉拽编排与多租户计费,轻松将Hugging

文章图片
#人工智能#机器学习#深度学习 +1
多机多卡训练怎么用 RDMA + NCCL 提速?CubeStudio RDMA 网络分布式训练实操(RoCE/IB / NCCL 参数 / IPC_LOCK / 原生 RDMA 资源)

CubeStudio是一款国产化、云原生的一站式开源AI平台,支持从数据到部署的全链路MLOps,原生适配昇腾、寒武纪等国产算力,深度集成RDMA高速网络与NCCL分布式训练。平台通过自动注入IPC_LOCK、资源调度与参数配置,实现多机多卡训练中RDMA的零代码启用,显著提升大模型训练效率。其项目组级开关与灵活资源申请(如1(roce))简化了复杂环境部署,助力企业私有化集群高效运行高性能AI任

文章图片
#网络#分布式
多机多卡训练怎么用 RDMA + NCCL 提速?CubeStudio RDMA 网络分布式训练实操(RoCE/IB / NCCL 参数 / IPC_LOCK / 原生 RDMA 资源)

CubeStudio是一款国产化、云原生的一站式开源AI平台,支持从数据到部署的全链路MLOps,原生适配昇腾、寒武纪等国产算力,深度集成RDMA高速网络与NCCL分布式训练。平台通过自动注入IPC_LOCK、资源调度与参数配置,实现多机多卡训练中RDMA的零代码启用,显著提升大模型训练效率。其项目组级开关与灵活资源申请(如1(roce))简化了复杂环境部署,助力企业私有化集群高效运行高性能AI任

文章图片
#网络#分布式
云原生分布式训练怎么调度才不浪费算力?CubeStudio 分布式训练与加速架构解析(CRD+Operator / gang 调度 / 亲和反亲和 / 共享 GPU)

CubeStudio是一款国产云原生一站式AI平台,支持从数据到部署的全链路MLOps。其分布式训练体系基于CRD+Operator实现自动建集群,融合gang调度、亲和反亲和与资源打分优化,解决多任务资源死锁与利用率低问题。通过GPU共享、DALI加速、动态资源调整等手段,显著提升算力利用率,原生适配昇腾、寒武纪等国产算力,助力企业高效完成大模型训练与推理。

文章图片
#云原生#分布式#架构 +2
云原生分布式训练怎么调度才不浪费算力?CubeStudio 分布式训练与加速架构解析(CRD+Operator / gang 调度 / 亲和反亲和 / 共享 GPU)

CubeStudio是一款国产云原生一站式AI平台,支持从数据到部署的全链路MLOps。其分布式训练体系基于CRD+Operator实现自动建集群,融合gang调度、亲和反亲和与资源打分优化,解决多任务资源死锁与利用率低问题。通过GPU共享、DALI加速、动态资源调整等手段,显著提升算力利用率,原生适配昇腾、寒武纪等国产算力,助力企业高效完成大模型训练与推理。

文章图片
#云原生#分布式#架构 +2
torch-server推理yolo模型

本文介绍了使用TorchServe进行YOLOv11x模型推理的完整流程。首先在Python 3.10环境中安装所需依赖包,包括PyTorch、TorchServe等。然后下载YOLOv11x.pt模型文件并转换为TorchScript格式。接着准备类别名称JSON文件和自定义Handler处理文件,使用torch-model-archiver将模型打包为MAR格式。最后配置TorchServe服

#kubernetes
c#获取网页源代码的5种方式

全栈工程师开发手册 (作者:栾鹏)c#教程全解c#获取网页源代码的5种方式,发送请求获取响应数据流,按照不同的编码转换为响应字符串测试代码static void Main(){string back = getwebcode1("http://blog.csdn.net/luanpeng825485697?viewmode=contents", "UTF-8");

#c#
c#图片色阶调整、亮度调整

全栈工程师开发手册 (作者:栾鹏)c#教程全解c#实现色阶调整,即调整图片rgb分量,进而也可以调节图片亮度。测试代码static void Main(){Bitmap b = file2img("test.jpg");Bitmap bb = img_color_gradation(b,100,0,0);img2file(bb, "test1.jpg"

#c#
c#读取ini配置文件、将配置数据保存至ini文件

全栈工程师开发手册 (作者:栾鹏)c#教程全解c#获取屏幕上某坐标点的颜色using System.Runtime.InteropServices;private struct POINT{private int x;private int y;}static POINT point;[DllImport("user32", ExactSpelling = t

#c#
c#图片对比度调整

全栈工程师开发手册 (作者:栾鹏)java教程全解java实现色阶调整,即调整图片rgb分量,进而也可以调节图片亮度。测试代码public static void main(String[] args) {//文件与BufferedImage间的转换BufferedImage bi=file2img("test.jpg");//读取图片Buffere

#c#
    共 287 条
  • 1
  • 2
  • 3
  • 29
  • 请选择