RAG的核心机制融合了信息检索系统的精确性和语言模型的强大生成能力，为基于自然语言的任务提供了更为灵活和精准的解决方案。

提示工程（Prompt Engineering），也称为上下文提示，是一种通过不更新模型的权重/参数来引导LLM行为朝着特定结果的方法。这是与AI有效交流所需结果的过程。

LLM（Large Language Model）大模型的可观测性是指对模型内部运行过程的理解和监控能力。由于LLM大模型通常具有庞大的参数量和复杂的网络结构，因此对其内部状态和运行过程的理解和监控是一个重要的问题。

最近两年，我们见识了“百模大战”，领略到了大型语言模型（LLM）的风采，但它们也存在一个显著的缺陷：没有记忆。

Ollama是一个开源项目，专注于开发和部署大语言模型，特别是像LLaMA这样的模型，用于生成高质量的文本和进行复杂的自然语言处理任务。

随着人工智能技术的飞速发展，多模态大模型逐渐成为研究和应用中的热点。Qwen2VL-7B，作为一个强大的多模态模型，具备理解和生成文本、图像以及视频等多种数据类型的能力。本文将详细介绍如何在CUDA 12.1和Python 3.11环境下，使用RTX 3090显卡部署Qwen2VL-7B多模态大模型。

LangChain 是一个基于开源大语言模型的 AI 工程开发框架，旨在使研究人员和开发人员能够更轻松地构建、实验和部署以自然语言处理（NLP）为中心的应用程序。

拥抱大模型时代：LangChain 框架快速入门指南

一图胜千言，`LangChain`已经成为当前 LLM 应用框架的事实标准，这篇文章就来对 LangChain 基本概念以及其具体使用场景做一个整理。

在LangChain中，`Model I/O`被称为：`模型的输入与输出`，其有`输入提示(Format)`、`调用模型(Predict)`、`输出解析(Parse)`等三部分组成。