
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
基于Aarch64架构的OpenEuler系统在昇腾910B模型离线部署方案
本文详细记录了在openEuler 22.03 LTS操作系统上安装和配置Ascend 910B NPU的完整流程。主要包括:1)驱动、固件和MCU的安装与升级步骤;2)创建逻辑卷并挂载存储;3)配置Docker及Docker Compose环境;4)部署两种大模型推理服务(vLLM-Ascend和MindIE)的具体方法。文档提供了详细的命令行操作和配置文件内容,涵盖了从硬件驱动安装到AI模型部

基于Aarch64架构的OpenEuler系统在昇腾910B模型离线部署方案
本文详细记录了在openEuler 22.03 LTS操作系统上安装和配置Ascend 910B NPU的完整流程。主要包括:1)驱动、固件和MCU的安装与升级步骤;2)创建逻辑卷并挂载存储;3)配置Docker及Docker Compose环境;4)部署两种大模型推理服务(vLLM-Ascend和MindIE)的具体方法。文档提供了详细的命令行操作和配置文件内容,涵盖了从硬件驱动安装到AI模型部

基于Aarch64架构的OpenEuler系统在昇腾910B模型离线部署方案
本文详细记录了在openEuler 22.03 LTS操作系统上安装和配置Ascend 910B NPU的完整流程。主要包括:1)驱动、固件和MCU的安装与升级步骤;2)创建逻辑卷并挂载存储;3)配置Docker及Docker Compose环境;4)部署两种大模型推理服务(vLLM-Ascend和MindIE)的具体方法。文档提供了详细的命令行操作和配置文件内容,涵盖了从硬件驱动安装到AI模型部

到底了







