logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

基于Aarch64架构的OpenEuler系统在昇腾910B模型离线部署方案

本文详细记录了在openEuler 22.03 LTS操作系统上安装和配置Ascend 910B NPU的完整流程。主要包括:1)驱动、固件和MCU的安装与升级步骤;2)创建逻辑卷并挂载存储;3)配置Docker及Docker Compose环境;4)部署两种大模型推理服务(vLLM-Ascend和MindIE)的具体方法。文档提供了详细的命令行操作和配置文件内容,涵盖了从硬件驱动安装到AI模型部

文章图片
#华为#语言模型
基于Aarch64架构的OpenEuler系统在昇腾910B模型离线部署方案

本文详细记录了在openEuler 22.03 LTS操作系统上安装和配置Ascend 910B NPU的完整流程。主要包括:1)驱动、固件和MCU的安装与升级步骤;2)创建逻辑卷并挂载存储;3)配置Docker及Docker Compose环境;4)部署两种大模型推理服务(vLLM-Ascend和MindIE)的具体方法。文档提供了详细的命令行操作和配置文件内容,涵盖了从硬件驱动安装到AI模型部

文章图片
#华为#语言模型
基于Aarch64架构的OpenEuler系统在昇腾910B模型离线部署方案

本文详细记录了在openEuler 22.03 LTS操作系统上安装和配置Ascend 910B NPU的完整流程。主要包括:1)驱动、固件和MCU的安装与升级步骤;2)创建逻辑卷并挂载存储;3)配置Docker及Docker Compose环境;4)部署两种大模型推理服务(vLLM-Ascend和MindIE)的具体方法。文档提供了详细的命令行操作和配置文件内容,涵盖了从硬件驱动安装到AI模型部

文章图片
#华为#语言模型
到底了