独立部署ChatGLM3-6B并提供HTTP API能力。自定义LLM封装对ChatGLM3-6B的访问。创建一个简单的Agent来使用自定义的LLM。

在LLM的RAG场景下，使用PostgreSQL+pgvector插件，作为向量数据的管理后端，简单高效。

想基于ChatGLM3-6B用LangChain做LLM应用，需要先了解下LangChain中对LLM的封装。本文以一个hello world的封装来示例。

Open WebUI是一个可扩展、功能丰富、用户友好的自托管WebUI，旨在完全离线操作。它支持各种LLM运行程序，包括Ollama和OpenAI兼容的API。

使用streamlit快速开发LLM demo应用。

在Mac M1 16G内存环境中，部署并使用Llama3 8B

在Mac M1 16G内存环境中，部署并使用Llama3 8B

LangChain中Tool的不同定义方式，对prompt的影响

本文介绍了在ChatGLM3-6B中使用LangChain的案例。

在LLM的RAG场景下，使用PostgreSQL+pgvector插件，作为向量数据的管理后端，简单高效。