logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

ImportError: cannot import name ‘is_npu_available‘ from ‘accelerate.utils

在做LoRa微调使用peft库的时候出现了下面的错误,

文章图片
#语言模型
db-gpt docker部署进坑

发现没有embedding模型,就启动docker image时,docker 因为是ipc模型,映射到系统环境目录下model目录找不到text2vec。2.docker 容器启动就关闭,docker ps -a 查看容器状态为exited 停止。1.docker 不支持gpu,参考之前文章。查看dbgtp的quickstart说明。(3)下载embedding模型(略), 需要自行下载text

文章图片
#docker#容器
db-gpt docker部署进坑

发现没有embedding模型,就启动docker image时,docker 因为是ipc模型,映射到系统环境目录下model目录找不到text2vec。2.docker 容器启动就关闭,docker ps -a 查看容器状态为exited 停止。1.docker 不支持gpu,参考之前文章。查看dbgtp的quickstart说明。(3)下载embedding模型(略), 需要自行下载text

文章图片
#docker#容器
nodejs 实现加载 huggingface local embedding model 方法

1. 需要了解transformer js 项目,这是transformer 的js版本,nodejs server端用ts代码实现,无缝集成langchain的话,需要用这个版本。需要注意,transformer支持的模型是有清单的,参考项目下的scripts/support_models.py文件,很多中文模型都不支持,如bge-large-zh,是否配置后就可以,需要确认。3.transfo

#node.js#transformer
到底了