这样，我们通过一些开源项目，快速搭建起了本地的大模型，以及围绕大模型的一些简单应用。在这个过程中，应该要重点去学习的是这些开源项目将大模型一步步落地，构建应用的思想和方法。例如，One-API 中对渠道和资源的管控方式，基本都是模拟的一些开源大模型产品的管控方式。熟悉这些规则，是我们真正开发企业级大模型应用时必须要了解的。在此基础上，我们才能知道如何控制大模型应用的成本。另外，FastGPT 中还

这样，我们通过一些开源项目，快速搭建起了本地的大模型，以及围绕大模型的一些简单应用。在这个过程中，应该要重点去学习的是这些开源项目将大模型一步步落地，构建应用的思想和方法。例如，One-API 中对渠道和资源的管控方式，基本都是模拟的一些开源大模型产品的管控方式。熟悉这些规则，是我们真正开发企业级大模型应用时必须要了解的。在此基础上，我们才能知道如何控制大模型应用的成本。另外，FastGPT 中还

可以理解为目前全球大模型的“大超市”。各大公司在发布大模型产品前，通常都会把模型上传到这里。它不仅仅是一个模型仓库，更是一个集成了数据集、模型测试和应用部署的综合性平台。新手：一个免费了解、尝试各种大模型功能的平台。程序员：一个入门级的编程工具，可以基于它做一些简单的 AI 应用。骨灰级 AI 开发者：一个无尽的宝藏。可以基于这里海量的大模型以及高质量的数据集，进行模型微调、多模态组合等高级操作。

本文我们成功实现了一个基于 SpringAI 的 RAG 智能问答系统，它能够读取 PDF 文档，并将其转化为可供自然语言查询的知识库。将替换为PgvectorRedis或Milvus等生产级向量数据库，以支持大规模数据存储和持久化。根据文档类型（如代码、表格、长文本）选择不同的切分器（如），以保留更好的语义完整性。将历史对话信息也作为上下文的一部分，实现多轮对话的 RAG。结合关键词检索（如 E

阶段核心操作SpringAI 组件Index加载文件 → 拆分条目 → 向量化存储Retrieval问题向量化 → 相似度检索 → 组装 Prompt → 调用大模型ChatClientSpringAI 目前仍处于快速迭代阶段，API 可能会有较大变化，但 RAG 的核心思想是通用的。掌握了本文的思路，无论未来框架如何演进，你都能快速上手。替换为其他向量数据库（如 Pgvector、Milvus）

读取 Schema → 构造 Prompt → 调用 LLM → 生成 SQL。你可以在此基础上扩展多表查询、安全校验、缓存优化等能力，打造一个生产级的自然语言查询工具。接入更多数据库类型（PostgreSQL、Oracle 等）支持 DDL 语句生成集成前端对话界面。

SpringAI的SQL智能助手功能，本质上是一个的解决方案。用户输入自然语言问题：例如“查询上个月销售额最高的5个商品”。AI理解问题并生成SQL：SpringAI将用户的问题、数据库表结构信息（DDL）以及一些示例查询（可选）一起发送给大模型。大模型返回SQL语句：大模型根据提供的上下文，生成对应的SQL查询语句。执行SQL并返回结果：SpringAI执行生成的SQL语句，并将查询结果返回给用

索引阶段：加载文件 → 切分文档 → 文本向量化 → 存储到向量数据库检索阶段：用户问题向量化 → 向量数据库检索 → 构建 Prompt → 调用大模型整合阶段：使用 AiServices 将各组件优雅地整合在一起文档切分策略：根据文档格式选择更合适的切分方式，如按段落、按句子或按固定长度切分向量化模型选择：尝试不同的 Embedding 模型，找到最适合业务场景的模型检索策略优化：调整maxR

通过引入和，我们可以构建一个更加智能和鲁棒的 RAG 系统。问题增强是 RAG 的关键：不要直接将用户原始问题送入检索，先进行转换和优化。合理设计路由策略：根据业务场景划分知识库，让路由更精准。聚合时注意去重：避免重复内容影响 LLM 的判断。持续迭代：根据用户反馈不断优化转换和路由的 Prompt。

LangChain：大模型开发框架，可以理解为大模型领域的 Spring，帮助程序员高效利用大模型能力。：LangChain 的 Java 版本，将大模型能力与 Java 编程语言结合，是目前 Java 生态中与大模型结合最成熟的框架之一。注意：大模型和其使用方式都在快速发展中，学习 LangChain4j 不仅要会用框架，更要理解如何用好大模型。接口用途聊天模型（同步）流式聊天模型（异步逐 to