OpenCloudOS 原生适配玄武 CLI:一行命令,让国产算力跑起大模型
随着大模型技术的爆发,如何让 AI 在国产算力底座上跑得更稳、更易用,成为了开发者关注的核心痛点。
近日, OpenCloudOS 社区正式宣布完成与清昴智能旗下“玄武 CLI”的深度适配。 作为 OpenCloudOS 生态中首个原生支持国产算力的大模型零门槛部署工具,玄武 CLI 的加入,标志着 OpenCloudOS 在构建“操作系统+国产芯片+大模型”的全栈国产化生态上迈出了关键一步。
即日起,OpenCloudOS 用户无需复杂的环境配置,即可在一键完成沐曦、华为昇腾等国产算力适配,流畅运行 Qwen、DeepSeek、GLM、Minimax 等主流大模型。无需复杂的环境配置与跨平台调试,真正实现国产系统+国产算力+ 国产大模型的全栈化协同落地。
一、 关于玄武 CLI
在过去,想要在国产显卡上部署大模型,开发者往往面临着“驱动难配、环境难调、算子难对齐”的困境。
玄武 CLI 被看作“国产版 Ollama”,是一款专为国产芯片设计的开源大模型管理工具。它内置了自研的异构推理引擎 MLGuider,能够屏蔽不同国产硬件底层的复杂性。它能:
-
抹平硬件差异 :自动识别并适配华为昇腾、沐曦、摩尔线程等多种国产算力卡。
-
零门槛部署 :摒弃繁琐的源码编译和依赖安装,提供类 Docker 的极简体验。
-
多引擎路由 :根据硬件环境自动选择最优推理后端,保证模型性能。
目前,OpenCloudOS 已接入玄武 CLI,用户现在可以直接通过命令行工具获取 AI 能力。OpenCloudOS 系统底层的稳定性与玄武 CLI 的易用性相结合,可以让开发者从繁重的运维工作中解放出来,专注于 AI 应用的开发与创新。
二、 快速上手:在 OpenCloudOS 上玩转大模型
如何在 OpenCloudOS 上体验玄武 CLI?只需简单三步。
1. 环境准备:
-
确保您已安装 OpenCloudOS 9版本,并且已正确安装对应国产显卡的驱动程序(如沐曦驱动或昇腾 NPU 驱动);并确保可以使用 npu-smi (昇腾) 或 mx-smi (沐曦) 等命令查询到您的 GPU 设备;
-
确保已安装 Docker 等底层相关依赖。
2. 一键安装玄武 CLI
打开 OpenCloudOS 终端,执行以下命令即可完成安装:
curl -o- http://xw.tsingmao.com/install.sh | bash
3. 拉取并运行模型
安装完成后,启动服务并运行大模型(以 Qwen3-8B 为例)
# 1. 启动服务后台xw serve# 2. 拉取模型 (支持断点续传)xw pull qwen3-8b# 3. 运行模型进行对话xw run qwen3-8b
此时,你就可以在 OpenCloudOS 的终端里直接与大模型进行交互了。同时,玄武 CLI 兼容 OpenAI API 标准,您可以直接将基于 OpenCloudOS 部署的服务接入到 LangChain、Dify 等应用框架中。
此次适配,是清昴智能与 OpenCloudOS 在国产科技生态建设中的一次重要携手。未来,清昴智能将持续深化与 OpenCloudOS 的生态合作,依托玄武 CLI 的自研推理引擎 MLGuider 技术优势,针对 OpenCloudOS 的高性能、稳定性等特性做定制化优化,进一步提升大模型在该系统上的部署效率与推理性能;同时,双方将共同探索更多国产化算力场景的解决方案,推动玄武 CLI 的大模型部署能力与 OpenCloudOS 的系统能力深度融合,为开发者和企业提供更便捷、更高效的全栈国产化 AI 基础设施。
未来,我们将推动更多 AI 工具链进入 OpenCloudOS 软件源,打造更友好的开发者体验。欢迎广大开发者在 OpenCloudOS 上体验玄武 CLI,并反馈您的使用感受!
-
OpenCloudOS 9 下载地址:https://mirrors.tencent.com/opencloudos/9.4/isos/
-
关于玄武 CLI:https://xw.tsingmao.com/home
-
玄武 CLI 项目地址:https://github.com/TsingmaoAI/xw-cli
OpenCloudOS 开源社区是由操作系统、云平台、软硬件厂商与个人携手打造中立开放、安全稳定且高性能的 Linux 操作系统及生态。目前已实现从源社区、商业版、到社区稳定版全链路覆盖,旨在输出经海量业务验证的企业级稳定操作系统版本,为行业解决国产操作系统上下游供应问题,促进基础软件可持续发展。

点击下方图片,了解加入社区权益与方式↓
更多推荐

所有评论(0)