支持目标识别，目标边界识别，多目标视频跟踪，目标遮罩识别，图片分类，图片描述，ocr，关键点检测。支持gpu禁用模型，共享模式，独占模式，vgpu模式，支持虚拟化占用显存设定，支持指定卡序号，支持gpu调度binpack调度策略，支持ib-rdma协议。支持大模型网关，支持统一入口，秘钥设定，限速，黑白名单，token限制，监控，有效期设定，多类型秘钥认证，重试，提示词模板，参数值映射，参数值固化

本文介绍了Kubernetes集群中寒武纪加速卡的配置与使用流程。首先需要安装K8s相关组件包括设备插件(device plugin)，然后通过kubectl describe node命令查询节点可用的寒武纪加速卡数量。最后演示了如何在Pod中测试占用寒武纪卡，并提供了查看Pod内部占用加速卡的截图说明。整个过程涵盖了从驱动安装到资源查询再到实际使用的完整链路，为在K8s环境中使用寒武纪加速硬件

本文记录了GPU资源在Kubernetes环境中的部署和使用过程。首先确认主机驱动正常安装，通过mthreads-gmi工具查看GPU卡状态。随后部署K8S device插件并检查节点资源。演示了通过yaml文件创建占用2张GPU卡的Pod，并在容器内验证GPU资源占用情况。最后展示了在Cube Studio平台上部署Deepseek模型的过程，并进行了接口测试验证。整个流程实现了从硬件资源识别到

本文介绍了大模型服务网关的设计与功能，主要用于代理多个OpenAI接口并实现认证、限流、监控等功能。主要内容包括：1)三种认证方式(数据库、正则、JWT)；2)秘钥获取位置设置；3)网关功能配置(过期时间、token额度、限速规则等)；4)访问控制(白名单/黑名单机制)；5)请求处理功能(提示词模板、参数映射)；6)调用测试方法和监控功能。该网关系统提供了完整的API代理解决方案，可实现安全、可控

本文展示了在Kubernetes环境中部署DeepSeek-R1大模型推理服务的完整流程。通过xpu-smi监控主机资源，配置K8S设备节点，使用特定镜像(xtrtllm_ubuntu_2004_x86_64_deepseek-v3)部署服务。关键配置包括挂载PVC和hostpath目录，设置LD_LIBRARY_PATH环境变量，并执行启动脚本加载模型(tokenizer和BF16-engine

CubeStudio 是一款国产化、云原生的一站式开源人工智能平台，同时覆盖传统机器学习、深度学习与大模型全链路（MLOps / MaaS / 算力调度 / 训推平台），开源协议 MIT，开源免费商用，开源版本已有数千家企业私有化部署。平台提供多租户与算力纳管调度、算力租赁与 Token 中转站、拖拉拽 Pipeline 任务流编排、多机多卡分布式训练、超参搜索、推理服务、vGPU 虚拟化、云边端

CubeStudio开源AI平台成功接入壁仞国产GPU的完整方案发布。该方案包含六个关键步骤：获取安装资料、部署主机驱动与容器运行时、安装Kubernetes组件（device plugin/agent/exporter）、验证节点卡数、Pod占卡测试及平台资源配置。通过标准化流程，壁仞GPU可像NVIDIA一样被统一调度，支持Notebook、训练和推理服务。方案同时解决了常见问题排查指南，体现

摘要： CubeStudio作为国产开源AI平台，全面支持寒武纪MLU370芯片的Kubernetes调度与AI任务全流程。本文详细介绍了从驱动安装、K8s组件部署到平台集成的五步操作方案，实现MLU卡在Notebook开发、分布式训练及vLLM大模型推理中的应用。平台通过资源映射机制（如1(mlu370)格式申请）统一管理异构算力，并支持vMLU虚拟化切分。该方案已适配昇腾、海光等国产芯片，助力

摘要： CubeStudio作为国产开源AI平台，全面支持寒武纪MLU370芯片的Kubernetes调度与AI任务全流程。本文详细介绍了从驱动安装、K8s组件部署到平台集成的五步操作方案，实现MLU卡在Notebook开发、分布式训练及vLLM大模型推理中的应用。平台通过资源映射机制（如1(mlu370)格式申请）统一管理异构算力，并支持vMLU虚拟化切分。该方案已适配昇腾、海光等国产芯片，助力

摘要： CubeStudio作为国产开源AI平台，全面支持寒武纪MLU370芯片的Kubernetes调度与AI任务全流程。本文详细介绍了从驱动安装、K8s组件部署到平台集成的五步操作方案，实现MLU卡在Notebook开发、分布式训练及vLLM大模型推理中的应用。平台通过资源映射机制（如1(mlu370)格式申请）统一管理异构算力，并支持vMLU虚拟化切分。该方案已适配昇腾、海光等国产芯片，助力