logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

llmware:在笔记本上跑 RAG 和本地大模型

llmware是一个开源项目,允许用户在本地设备上运行完整的RAG流程,包括文档解析、知识库构建和模型推理,全程无需调用外部API。它支持300多个预优化的小模型,特别适合企业中对数据隐私有要求的场景。核心架构包括模型目录和RAG管线,支持多种文档格式和向量数据库。关键能力包括本地推理、Prompt with Sources、Agent和函数调用,以及可插拔的数据库支持。安装简单,适合需要本地化R

#其他
llmware:在笔记本上跑 RAG 和本地大模型

llmware是一个开源项目,允许用户在本地设备上运行完整的RAG流程,包括文档解析、知识库构建和模型推理,全程无需调用外部API。它支持300多个预优化的小模型,特别适合企业中对数据隐私有要求的场景。核心架构包括模型目录和RAG管线,支持多种文档格式和向量数据库。关键能力包括本地推理、Prompt with Sources、Agent和函数调用,以及可插拔的数据库支持。安装简单,适合需要本地化R

#其他
llmware:在笔记本上跑 RAG 和本地大模型

llmware是一个开源项目,允许用户在本地设备上运行完整的RAG流程,包括文档解析、知识库构建和模型推理,全程无需调用外部API。它支持300多个预优化的小模型,特别适合企业中对数据隐私有要求的场景。核心架构包括模型目录和RAG管线,支持多种文档格式和向量数据库。关键能力包括本地推理、Prompt with Sources、Agent和函数调用,以及可插拔的数据库支持。安装简单,适合需要本地化R

#其他
llmware:在笔记本上跑 RAG 和本地大模型

llmware是一个开源项目,允许用户在本地设备上运行完整的RAG流程,包括文档解析、知识库构建和模型推理,全程无需调用外部API。它支持300多个预优化的小模型,特别适合企业中对数据隐私有要求的场景。核心架构包括模型目录和RAG管线,支持多种文档格式和向量数据库。关键能力包括本地推理、Prompt with Sources、Agent和函数调用,以及可插拔的数据库支持。安装简单,适合需要本地化R

#其他
到底了