logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

DeepSeek-R1-Distill-Qwen-32B在昇腾A800T A2上使用mindie镜像部署与benchmark性能测试

DeepSeek-R1-Distill-Qwen-32B在昇腾A800T A2上使用mindie镜像部署与采用合成数据使用benchmark性能测试

#人工智能#自然语言处理
DeepSeek-R1-Distill-Qwen-32B在昇腾A800T A2上使用mindie镜像部署与benchmark性能测试

DeepSeek-R1-Distill-Qwen-32B在昇腾A800T A2上使用mindie镜像部署与采用合成数据使用benchmark性能测试

#人工智能#自然语言处理
QwQ-32B模型W8A8量化版在昇腾A800-9000服务器上私有化推理部署

背景:昇腾服务器操作系统已安装,npu驱动版本为23.0.0,8张NPU卡私有化部署,docker环境已安装。下载:docker pull swr.cn-central-221.ovaijisuan.com/wh-aicc-fae/mindie:910A-ascend_24.1.rc3-cann_8.0.t63-py_3.10-ubuntu_20.04-aarch64-mindie_1.0.T71

#服务器#人工智能
DeepSeek-R1-Distill-Qwen-32B在昇腾A800T A2上使用mindie镜像部署与benchmark性能测试

DeepSeek-R1-Distill-Qwen-32B在昇腾A800T A2上使用mindie镜像部署与采用合成数据使用benchmark性能测试

#人工智能#自然语言处理
QwQ-32B模型W8A8量化版在昇腾A800-9000服务器上私有化推理部署

背景:昇腾服务器操作系统已安装,npu驱动版本为23.0.0,8张NPU卡私有化部署,docker环境已安装。下载:docker pull swr.cn-central-221.ovaijisuan.com/wh-aicc-fae/mindie:910A-ascend_24.1.rc3-cann_8.0.t63-py_3.10-ubuntu_20.04-aarch64-mindie_1.0.T71

#服务器#人工智能
到底了