logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

华为昆仑2280鲲鹏920昇腾ATLAS300IPro虚拟化FusionCompute离线搭建MindIe环境调用DeepSeek-R1-14B

本文详细记录了从硬件驱动安装到部署Deepseek大模型的全过程。主要包括:1)准备环境与下载软件;2)调整固件参数;3)配置虚拟服务器GPU直通;4)安装Docker并加载Mindie;5)调用大模型时修改配置文件Confin.json;6)设置环境变量;7)启动Mindie服务;8)服务器间测试验证。重点解决了虚拟化环境下GPU资源分配和Docker容器部署问题,最终实现了通过传参调用Deep

文章图片
#nlp#语言模型
华为昆仑2280鲲鹏920昇腾ATLAS300IPro虚拟化FusionCompute离线搭建MindIe环境调用DeepSeek-R1-14B

本文详细记录了从硬件驱动安装到部署Deepseek大模型的全过程。主要包括:1)准备环境与下载软件;2)调整固件参数;3)配置虚拟服务器GPU直通;4)安装Docker并加载Mindie;5)调用大模型时修改配置文件Confin.json;6)设置环境变量;7)启动Mindie服务;8)服务器间测试验证。重点解决了虚拟化环境下GPU资源分配和Docker容器部署问题,最终实现了通过传参调用Deep

文章图片
#nlp#语言模型
到底了