logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Docker中创建conda环境并安装cuda和相关依赖—示例3

书接上文,在linux系统中进入自己新创建的docker,接下来需要配置conda环境,以供后续学习使用。4. Miniconda 安装程序,一路回车(按住回车不松手就行,输入yes,然后继续回车)(3)在conda中安装python的cuda和相关依赖,用于神经网络模型的GPU推理。7.创建包含Python3.8的conda环境,conda环境的名字为dlm。其中-n表示指定conda环境的名字

文章图片
#docker#容器#运维
kylinv10系统docker容器配置ssh直连

如下图所示,我配置了docker容器的端口映射,端口号为3572,目标宿主机ip地址为192.168.1.114用户名为root,但是发现容器中没有安装过passwd,尝试安装也没有访问网络的能力,没关系,我们。首先,检查是否存在sshd文件,如果存在则执行该文件,启动 SSH 服务。由于是kylinv10系统,所以与常规的配网方式有所不同,比如。然后,再次尝试直接连接docker容器,密码使用刚

#docker#ssh#容器
边缘计算_ubuntu环境下使用瑞芯微RK3576NPU推理LLM

好的,接下来我们先在服务器端搭建conda环境,用于将目标部署模型的safetensor文件,并转换为瑞芯微NPU支持的rkllm模型文件,使用如下命令创建并进入conda环境。(由于python3.8环境和最新的魔塔兼容,可以创建一个新的安装了python3.12环境的conda环境,下载好模型之后再切换回来。安装完成之后,下载需要部署的原始模型然后进行转换,我这里下载DeepSeek和Qwen

#边缘计算#ubuntu#人工智能
使用瑞芯微的Dockerfile创建模型krnn模型导出与交叉编译环境

库版本不兼容whl文件安装报错等,由于手动创建环境十分麻烦,经常会出现各种库版本不匹配的问题。因此,今天考虑从Dockerfile入手创建docker环境,使得官方提供的完善环境直接可用。https://gitee.com/liuzhibang123/rknn_docker_file.git(支持国产,嘿嘿)最近遇到了奇怪的事情,之前配制好的rknn环境丢失了,重新配置又遇到了各种问题。以全国产化

#运维
边缘计算_ubuntu环境下使用瑞芯微RK3576NPU推理LLM

好的,接下来我们先在服务器端搭建conda环境,用于将目标部署模型的safetensor文件,并转换为瑞芯微NPU支持的rkllm模型文件,使用如下命令创建并进入conda环境。(由于python3.8环境和最新的魔塔兼容,可以创建一个新的安装了python3.12环境的conda环境,下载好模型之后再切换回来。安装完成之后,下载需要部署的原始模型然后进行转换,我这里下载DeepSeek和Qwen

#边缘计算#ubuntu#人工智能
在Windows上配置Claude Code

创建并保存后,进入C:\Users\ZhiBang.claude目录下(用户目录下的.claude)创建settings.json文件。保存并退出之后,再此开启终端,然后输入如下命令开启claude。首先,在cmd终端使用如下命令安装Claude Code。然后,进入DeepSeek官网充值并创建api密钥。

#windows
学位论文之Word中参考文献的格式修改

先选中全部需要修改的参考文献,点击替换,然后点击格式,再点击字体,中文字体设置为宋体,西文字体设置为Times New Roman。需要注意的是,对于空格、逗号、句号、连字符需要勾选使用通配符,对于小括号和中括号需要勾选区分全、半角(M)全部替换后,会询问是否搜索文档的其余部分,选择否即可。

#边缘计算
边缘计算_ubuntu环境下使用瑞芯微RK3576NPU推理LLM

好的,接下来我们先在服务器端搭建conda环境,用于将目标部署模型的safetensor文件,并转换为瑞芯微NPU支持的rkllm模型文件,使用如下命令创建并进入conda环境。(由于python3.8环境和最新的魔塔兼容,可以创建一个新的安装了python3.12环境的conda环境,下载好模型之后再切换回来。安装完成之后,下载需要部署的原始模型然后进行转换,我这里下载DeepSeek和Qwen

#边缘计算#ubuntu#人工智能
初探模型训练,使用5090显卡从头训练LLM

然后,使用如下代码构建简单的LLM模型并进行训练,代码中包含数据集的加载(r拖)然后,使用如下命令安装LLM训练需要用到依赖库。首先,创建一个名为llm_tarin的容器。使用如下代码进行上下文推理测试,输入为。推理结果如下,输出为。

#人工智能#语言模型
linux 安装 nodejs

linux 安装 nodejs (centos7系统)

文章图片
#linux#运维#服务器
    共 11 条
  • 1
  • 2
  • 请选择