logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Agent平台-RAGFlow(2)-源码安装

k3s中安装es, mysql, redis, minio ,如果不想用k3s安装可以采用。

#python
Agent平台-RAGFlow(2)-源码安装

k3s中安装es, mysql, redis, minio ,如果不想用k3s安装可以采用。

#python
使用VSCode远程调试(debug)服务器的Python代码

7. vscode里面的debug配置中,配置对应即可选择conda环境远程调试代码。2. 启用插件后,点击VSCODE左下角 " >< ",进入SSH连接。找到对应路径,作为python的启动路径。1.下载微软官方插件。3. 选择连接到主机。

文章图片
#vscode#python#ide
离线机器翻译库 LibreTranslate/argos-translate 安装和使用

LibreTranslate是一个带前端后端的机器翻译服务,可以开启关闭。在使用LibreTranslate前需要先安装机器翻译引擎argos-translate。

文章图片
#机器翻译#人工智能#自然语言处理
解决raw.githubusercontent.com 无法访问

在很多代码中自需要从GIT中下载代码、配置文件等组件,但raw.githubusercontent.com经常无法访问,无法访问的原因一般都是没有相关dns导致。

文章图片
#linux
paddle-gpu的安装和错误解决

peddle-gpu的使用需要注意cuda和cudnn版本,如果是CPU版本可以直接安装使用。当我们同时安装了GPU和CPU版本paddle的时候,需要如果安装的GPU版本和CUDA版本不符合,会直接使用CPU,并且不会报错使用GPU错误。

文章图片
#paddle
docker使用GPU资源

在启动容器的时候,需要指定–gpus all参数,这个时候才能调用宿主机的GPU资源,否则无法使用。指令查看安装好的容器。

文章图片
#docker#容器#运维
大模型高效微调-prompt tuning

大模型微调分为几种,一是全量微调,这种微调方式需要有足够优秀的设备支持,在消费级硬件上对模型进行全部参数的微调几乎是不可能完成的任务。因此,研究者们提出了不同的参数高效迁移学习方法,即固定住的大部分参数,仅训练模型的一小部分参数来达到与全部参数的微调接近的效果,主要分为训练模型自身的参数和额外添加组件(仅仅微调训练少量或额外的模型参数)。这种微调方式可以在较小的GPU上实现,本文介绍的就是额外添加

#pytorch#人工智能
大模型高效微调-prompt tuning

大模型微调分为几种,一是全量微调,这种微调方式需要有足够优秀的设备支持,在消费级硬件上对模型进行全部参数的微调几乎是不可能完成的任务。因此,研究者们提出了不同的参数高效迁移学习方法,即固定住的大部分参数,仅训练模型的一小部分参数来达到与全部参数的微调接近的效果,主要分为训练模型自身的参数和额外添加组件(仅仅微调训练少量或额外的模型参数)。这种微调方式可以在较小的GPU上实现,本文介绍的就是额外添加

#pytorch#人工智能
离线机器翻译库 LibreTranslate/argos-translate 安装和使用

LibreTranslate是一个带前端后端的机器翻译服务,可以开启关闭。在使用LibreTranslate前需要先安装机器翻译引擎argos-translate。

文章图片
#机器翻译#人工智能#自然语言处理
    共 11 条
  • 1
  • 2
  • 请选择