在上一篇博文中，我们使用Flask这一Web框架结合LLM模型实现了后端流式WebAPI接口，本篇将基于Vue3实现AI问答页面，本人习惯使用HBuilder进行前端页面的开发，当然各位网友可以选择自己喜欢的前端开发IDE，比如VS Code。

随着人工智能技术的飞速发展，大型语言模型（Large Language Model，简称LLM）逐渐成为自然语言处理（NLP）领域的研究热点。各类公众号、帖子涌现出了各种概念，AI、大模型、LLM、AI、AIGC、AGI、GPT、ChatGPT等等。总觉得被这些概念搞得头晕。本文梳理了大型语言模型的相关概念基础，以期为读者提供一个全面而清晰的认识。

比较官方的token解释：Token是对输入文本进行分割和编码时的最小单位。它可以是单词、子词、字符或其他形式的文本片段。

RAG把一个信息检索插件和大模型结合在一起，根据用户的提示词，通过信息检索插件检索相关的文档，再将文档连同用户原始输入作为提示词输入到大模型，从而产生更优的结果。出于这一目的，如果不需要特别的网络限制，可以购买或者免费使用各大AI平台的API接口实现，当然使用私有的大模型API也是很好的选择。以下是几大AI平台的模型服务，大家可以按需购买自己希望的API服务，当然对于我这个free主义者来说，免费

python的web开发框架很多，这里只简单介绍了三款在国内比较流行的开发框架。本博文及后续博文根据各自框架的特点，选择了入手简单的轻量级Flask作为web开发框架。

大语言模型中存在的过时、不准确、幻觉、一本正经的胡说八道、基于互联网数据训练这些缺点，因此，直接使用大语言模型生成的内容在商业场景中，特别是涉及到一些专业领域以及私有数据的场景，是无法提供准确或有价值的信息的。因此，大模型的应用通常需要与搜索技术相结合。所谓语义检索（也称基于向量的检索），是指检索系统不再拘泥于用户字面本身，而是能精准捕捉到用户的真正意图并以此来搜索，从而更准确地向用户返回最符合的

在本地运行大语言模型有诸多优点：比如可以保护隐私、不会产生费用、可以无视网络问题、可以尝鲜各种开源模型等。本文主要介绍如何在 Windows 系统快速部署 Ollama 开源大语言模型运行工具，同时为了简化各位网友的WebUI的搭建过程，本文将提供一站式搭建包供大家免费下载安装和部署。Ollama是一个强大的运行AI模型的工具。Ollama的核心功能。

在《AI大语言模型LLM学习-RAG技术及代码实现》一文介绍了RAG的相关知识，其中介绍到RAG的发展经历三个主要阶段：原始（Native RAG）、高级（Advanced RAG）和模块化RAG（Modular RAG），文中实战使用实际案例介绍了原始（Native RAG）的代码实现；本文将重点介绍高级（Advanced RAG）的概念及代码实现。摘要技术用于生成检索结果的简短摘要，帮助用户快