随着大模型技术的爆发,如何让 AI 在国产算力底座上跑得更稳、更易用,成为了开发者关注的核心痛点。

近日, OpenCloudOS 社区正式宣布完成与清昴智能旗下“玄武 CLI”的深度适配。 作为 OpenCloudOS 生态中首个原生支持国产算力的大模型零门槛部署工具,玄武 CLI 的加入,标志着 OpenCloudOS 在构建“操作系统+国产芯片+大模型”的全栈国产化生态上迈出了关键一步。

即日起,OpenCloudOS 用户无需复杂的环境配置,即可在一键完成沐曦、华为昇腾等国产算力适配,流畅运行 Qwen、DeepSeek、GLM、Minimax 等主流大模型。无需复杂的环境配置与跨平台调试,真正实现国产系统+国产算力+ 国产大模型的全栈化协同落地。

一、 关于玄武 CLI 

在过去,想要在国产显卡上部署大模型,开发者往往面临着“驱动难配、环境难调、算子难对齐”的困境。

玄武 CLI 被看作“国产版 Ollama”,是一款专为国产芯片设计的开源大模型管理工具。它内置了自研的异构推理引擎 MLGuider,能够屏蔽不同国产硬件底层的复杂性。它能:

  • 抹平硬件差异 :自动识别并适配华为昇腾、沐曦、摩尔线程等多种国产算力卡。

  • 零门槛部署 :摒弃繁琐的源码编译和依赖安装,提供类 Docker 的极简体验。

  • 多引擎路由 :根据硬件环境自动选择最优推理后端,保证模型性能。

目前,OpenCloudOS 已接入玄武 CLI,用户现在可以直接通过命令行工具获取 AI 能力。OpenCloudOS 系统底层的稳定性与玄武 CLI 的易用性相结合,可以让开发者从繁重的运维工作中解放出来,专注于 AI 应用的开发与创新。

二、 快速上手:在 OpenCloudOS 上玩转大模型

如何在 OpenCloudOS 上体验玄武 CLI?只需简单三步。

1. 环境准备:

  • 确保您已安装 OpenCloudOS 9版本,并且已正确安装对应国产显卡的驱动程序(如沐曦驱动或昇腾 NPU 驱动);并确保可以使用 npu-smi (昇腾) 或 mx-smi (沐曦) 等命令查询到您的 GPU 设备;

  • 确保已安装 Docker 等底层相关依赖。

2.  一键安装玄武 CLI

 打开 OpenCloudOS 终端,执行以下命令即可完成安装:


    curl -o- http://xw.tsingmao.com/install.sh | bash

    3. 拉取并运行模型

    安装完成后,启动服务并运行大模型(以 Qwen3-8B 为例)

      # 1. 启动服务后台xw serve  # 2. 拉取模型 (支持断点续传)xw pull qwen3-8b # 3. 运行模型进行对话xw run qwen3-8b

      此时,你就可以在 OpenCloudOS 的终端里直接与大模型进行交互了。同时,玄武 CLI 兼容 OpenAI API 标准,您可以直接将基于 OpenCloudOS 部署的服务接入到 LangChain、Dify 等应用框架中。

      此次适配,是清昴智能与 OpenCloudOS 在国产科技生态建设中的一次重要携手。未来,清昴智能将持续深化与 OpenCloudOS 的生态合作,依托玄武 CLI 的自研推理引擎 MLGuider 技术优势,针对 OpenCloudOS 的高性能、稳定性等特性做定制化优化,进一步提升大模型在该系统上的部署效率与推理性能;同时,双方将共同探索更多国产化算力场景的解决方案,推动玄武 CLI 的大模型部署能力与 OpenCloudOS 的系统能力深度融合,为开发者和企业提供更便捷、更高效的全栈国产化 AI 基础设施。

      未来,我们将推动更多 AI 工具链进入 OpenCloudOS 软件源,打造更友好的开发者体验。欢迎广大开发者在 OpenCloudOS 上体验玄武 CLI,并反馈您的使用感受!

      • OpenCloudOS 9 下载地址:https://mirrors.tencent.com/opencloudos/9.4/isos/

      • 关于玄武 CLI:https://xw.tsingmao.com/home

      • 玄武 CLI 项目地址:https://github.com/TsingmaoAI/xw-cli


      OpenCloudOS 开源社区是由操作系统、云平台、软硬件厂商与个人携手打造中立开放、安全稳定且高性能的 Linux 操作系统及生态。目前已实现从源社区、商业版、到社区稳定版全链路覆盖,旨在输出经海量业务验证的企业级稳定操作系统版本,为行业解决国产操作系统上下游供应问题,促进基础软件可持续发展。

      图片

      点击下方图片,了解加入社区权益与方式↓

      更多推荐