Open WebUI是一个可扩展、功能丰富、用户友好的自托管WebUI，旨在完全离线操作。它支持各种LLM运行程序，包括Ollama和OpenAI兼容的API。

GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中，GLM-4-9B及其人类偏好对齐的版本GLM-4-9B-Chat均表现出超越 Llama-3-8B 的卓越性能。

LangChain中Tool的不同定义方式，对prompt的影响

ChatGLM3-6B兼容Langchain的Function Call的一步一步的详细转换过程记录

在LLM的RAG场景下，使用PostgreSQL+pgvector插件，作为向量数据的管理后端，简单高效。

部署ChatGLM3-6B并对外提供HTTP server能力

本文介绍了如何在ChatGLM3-6B中使用自定义函数，来扩展大模型的能力。

使用streamlit快速开发LLM demo应用。

BGE embedding系列模型是由智源研究院研发的中文版文本表示模型。可将任意文本映射为低维稠密向量，以用于检索、分类、聚类或语义匹配等任务，并可支持为大模型调用外部知识。

Streamlit提供了一种非常便捷且高效的方式，让后端开发也能轻松的画出来简单的web页面。特别适合LLM这种页面比较简单的场景。