由于大模型API价格已成白菜价，AI应用的开发将进入到RAG时代，而由于有了像阿里云百炼这样的一站式平台，普通开发者也能开发定制化的AI SaaS应用。遥想2023年的3月份，GPT-4的32k上下文的API价格是平均每千字就超过0.5元，如果是加上历史对话，简单的一个问题都要好几块钱。由于价格太贵，很多应用的开发都只停留在简单的对话上，而现在各种大模型成本的降低，才让RAG应用开发成了可能。

LangChain 是一个用于开发由语言模型驱动的应用程序的框架。具有上下文感知能力：将语言模型连接到上下文来源（提示指令，少量的示例，需要回应的内容等）具有推理能力：依赖语言模型进行推理（根据提供的上下文如何回答，采取什么行动等）这个框架由几个部分组成。LangChain 库：Python 和 JavaScript 库。包含了各种组件的接口和集成，一个基本的运行时，用于将这些组件组合成链和代理，

过去半年，随着ChatGPT的火爆，直接带火了整个LLM这个方向，然LLM毕竟更多是基于过去的经验数据预训练而来，没法获取最新的知识，以及各企业私有的知识为了获取最新的知识，ChatGPT plus版集成了bing搜索的功能，有的模型则会调用一个定位于 “链接各种AI模型、工具”的langchain的bing功能为了处理企业私有的知识，要么基于开源模型微调，要么更可以基于langchain里集成的

在本文中，我们将通过MaxKB和Ollama，介绍如何快速构建一个基于大语言模型的本地知识库问答系统。MaxKB是一款基于LLM的知识库问答系统，而Ollama是一个支持本地部署的开源框架。

由于大模型API价格已成白菜价，AI应用的开发将进入到RAG时代，而由于有了像阿里云百炼这样的一站式平台，普通开发者也能开发定制化的AI SaaS应用。遥想2023年的3月份，GPT-4的32k上下文的API价格是平均每千字就超过0.5元，如果是加上历史对话，简单的一个问题都要好几块钱。由于价格太贵，很多应用的开发都只停留在简单的对话上，而现在各种大模型成本的降低，才让RAG应用开发成了可能。

马斯克部下跳槽，把人形机器人技术开源了。不少创业公司的估值，一夜被打了骨折。——它能像大白(●—●)一样，听懂并正确执行人类发出的指令，比如放杯子、拿水果。可以自己打开笔帽，在白板上写名字。或者是叠衣服。把钥匙准确插进锁眼。这些操作，全都是机器人自己搞定。没有人远程操控，完全端到端实现。最关键的是，它使用的算法、数据集完全！这意味着，你完全可以在家自己改造一个小机器人，让它完成同样的事。如上进展，

由于作者的眼界、精力和能力也有限，并且确实也不是专业的AI研究员，仅仅是一位兴趣使然的爱好者，这里列出的几款也单纯只是作者平常关注到的，所以可能也不全，请各位见谅！

本文我们介绍另一种实现方式：利用 Ollama+RagFlow 来实现，其中 Ollama 中使用的模型仍然是Qwen2我们再来回顾一下 RAG 常见的应用架构。

开发一个结合 RAG（Retrieval-Augmented Generation）、Agent 技术、微调、模型选择 和 私有化部署 的知识库AI应用，需要整合多种前沿技术，确保系统具有高效的信息检索、生成能力以及可定制化和安全性。以下是各关键技术的详细说明及推荐。\1. Retrieval-Augmented Generation (RAG) 技术RAG技术通过结合信息检索与生成模型，提升了知

大模型RAG实战系列文章，带你深入探索使用LlamaIndex框架，构建本地大模型知识库问答系统。本系列涵盖知识库管理、检索优化、模型本地部署等主题，通过代码与实例，讲解如何打造生产级系统，实现本地知识库的快速检索与智能问答。此前文章中，我介绍了使用LlamaIndex，如何构建知识库，实现各类文档和网页的加载、转换、索引与存储。当时，我们采用的向量数据库是，作为LlamaIndex中的向量存储（