logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Rag-Embeding模型最佳实践-text-embeddings-inference 搭建(一、GPU)

3.3 设置 crates.io 镜像, 修改配置 ~/.cargo/config,已支持git协议和sparse协议,>=1.68 版本建议使用 sparse-index,速度更快。如果是自己服务器,我会设置cargo_home rustup_home 之类的配置,避免把包全搞到跟目录,后续难受。这里比git 上多加了一个--features static-linking,原因是本地报错,具体可

文章图片
#人工智能
编译 text-embeddings-inference遇到的问题总结

编译 text-embeddings-inference遇到的问题总结

文章图片
#人工智能
RagFlow-v0.18.0新特性-5 通过 OpenAI 的 API 进行Agent调用

RagFlow-v0.18.0-5 通过 OpenAI 的 API 进行Agent调用

文章图片
#人工智能
RagFlow-v0.18.0 新特性-2 文档布局识别过程中采用 VLM 模型作为处理流水线,从而实现对 PDF 中图像的深度分析

这里嵌入模型使用的是通过xinference 部署的embeding和Rerank 模型,因为部署简单,使用的资源也少,2G 显存就OK ,推荐有显卡资源的自己部署一下,后续专门写一篇。由于上面的PDF 超过了5M 导致silionflow.cn 报错了,(这里我还发现一个Bug.)我更换了PDF,当使用VL模型进行解析的时候。我到0.17.2版本去试了一下,发现的确用不了外部的VL 模型。最后成

文章图片
RagFlow-v0.18.0 新特性-6管理员可以通过环境变量启用或禁止用户注册。

RagFlow-v0.18.0 新特性-6管理员可以通过环境变量启用或禁止用户注册

文章图片
#人工智能
到底了