logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

llamaindex 集成本地大模型

Customizing LLMs within LlamaIndex Abstractions 目的:llamaindex 是一个很好的应用框架,基于此搭建一个RAG应用是一个不错的选择,但是由于llamaindex默认设置是openai的api,国内用不了,以及一些企业想要部…从​​​​​​​​​​​​​​用llamaindex 部署本地大模型 - 知乎。

#深度学习
ImportError: cannot import name ‘is_npu_available‘ from ‘accelerate.utils

在做LoRa微调使用peft库的时候出现了下面的错误,

文章图片
#语言模型
byzer 笔记总结

本章将详细介绍 Byzer Notebook 工作区相关操作。您可以在页面顶栏点击工作区进入工作区页面,创建或编辑笔记本。

#机器学习
byzer python error:RuntimeError: (‘Exception thrown when converting pandas.Series (object) to Arrow

【代码】byzer python error:RuntimeError: (‘Exception thrown when converting pandas.Series (object) to Arrow。

文章图片
#javascript#前端#服务器
byzer plugin install log

3.修改byzer-lang下面conf目录的byzer.properties.override的streaming.plugin.clzznames。,支持本地文件系统,HDFS,对象存储。Byzer-lang 下载插件至数据湖目录,并热加载之。查看log文件,错误信息如下: 从日志看,是以为delta没有元数据。Byzer-lang 支持插件安装,删除,获取列表等。安装插件前,请配置 Byze

文章图片
#java#前端#服务器
byzer sql 详细参考

数据加载load excelload excel.`tmp/upload/exceltest.xls`where header="true"as hello_world;load csvload csv.`tmp/upload/taxi_tour_table_train_simple.csv` where delimiter=","and header = "true"as taxi_tour_t

#sql
初装byzer notebook,启动错误

原因是jdk版本不对。

用国内镜像安装docker 和 docker-compose (ubuntu)

安装docker-ce时,会卡在添加docker的包源download.docker.com,但是这个地址一直无法访问,导致无法继续安装。替代方案,改用国内的镜像站(网易镜像)3.安装docker-compose。1.清除旧版本(可选操作)2.安装docker。

文章图片
#docker#ubuntu#容器
nodejs 实现加载 huggingface local embedding model 方法

1. 需要了解transformer js 项目,这是transformer 的js版本,nodejs server端用ts代码实现,无缝集成langchain的话,需要用这个版本。需要注意,transformer支持的模型是有清单的,参考项目下的scripts/support_models.py文件,很多中文模型都不支持,如bge-large-zh,是否配置后就可以,需要确认。3.transfo

#node.js#transformer
RuntimeError: “addmm_impl_cpu_“ not implemented for ‘Half‘

将model.half() 改成 model.float()使用CPU进行推理时,遇到。

#transformer
到底了