
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
如何在裸机NPU服务器上配置CANN环境?
本文提供了昇腾AI环境配置的详细指南,主要包括:1) 关键软件版本对应关系(CANN Toolkit 8.1.RC1、PyTorch 2.5.1等);2) 配置流程:从固件驱动安装到PyTorch、CANN Toolkit和Kernels的部署;3) 环境变量设置方法;4) 推荐操作系统(OpenEuler/Ubuntu);5) 常见问题解决方案(权限问题、路径错误等)。特别强调要使用稳定版(be
如何在NPU上部署大模型(Qwen3-30B-A3B)?
本文介绍了在NPU服务器上部署Qwen3-30B-A3B大模型的完整流程。主要内容包括:1)准备工作,如硬件要求、驱动安装、docker环境和镜像资源;2)详细部署步骤,包含镜像拉取、宿主机配置(设备挂载、模型路径映射)、容器内服务启动参数设置;3)验证方法,通过API接口测试和Python示例代码检查模型推理功能。特别强调了NPU设备挂载、tensor并行参数配置等关键环节,适用于OpenEul
如何在NPU上部署大模型(Qwen3-30B-A3B)?
本文介绍了在NPU服务器上部署Qwen3-30B-A3B大模型的完整流程。主要内容包括:1)准备工作,如硬件要求、驱动安装、docker环境和镜像资源;2)详细部署步骤,包含镜像拉取、宿主机配置(设备挂载、模型路径映射)、容器内服务启动参数设置;3)验证方法,通过API接口测试和Python示例代码检查模型推理功能。特别强调了NPU设备挂载、tensor并行参数配置等关键环节,适用于OpenEul
到底了