Spring Boot集成LangChain4j实现双AI模型接入(OpenAI+DeepSeek)
官网统一 API: LLM 提供商(如 OpenAI 或 Google Vertex AI)和嵌入(向量)存储(如 Pinecone 或 Milvus) 使用专有 API。LangChain4j 提供统一的 API,避免了学习和实现每个特定 API 的需求。要尝试不同的 LLM 或嵌入存储,您可以在它们之间轻松切换,无需重写代码。LangChain4j 目前支持 15+ 个流行的 LLM 提供商
在人工智能技术蓬勃发展的今天,如何快速集成多家人工智能服务成为开发者关注的重点。本文将演示如何通过Spring Boot框架结合LangChain4j这一轻量级AI集成工具,同时接入OpenAI和DeepSeek两大AI平台。这种双模型架构既能发挥GPT系列强大的自然语言处理能力,又能利用DeepSeek的垂直领域优势,为应用赋予更全面的智能交互能力。
LangChain4j介绍
官网:https://docs.langchain4j.info
- 统一 API: LLM 提供商(如 OpenAI 或 Google Vertex AI)和嵌入(向量)存储(如 Pinecone 或 Milvus) 使用专有 API。LangChain4j 提供统一的 API,避免了学习和实现每个特定 API 的需求。 要尝试不同的 LLM 或嵌入存储,您可以在它们之间轻松切换,无需重写代码。 LangChain4j 目前支持 15+ 个流行的 LLM 提供商 和 20+ 个嵌入存储。
- 全面的工具箱: 自 2023 年初以来,社区一直在构建众多 LLM 驱动的应用程序, 识别常见的抽象、模式和技术。LangChain4j 将这些提炼成一个即用型包。 我们的工具箱包含从低级提示模板、聊天记忆管理和函数调用 到高级模式如代理和 RAG 的工具。 对于每个抽象,我们提供一个接口以及基于常见技术的多个即用型实现。 无论您是在构建聊天机器人还是开发包含从数据摄取到检索完整管道的 RAG, LangChain4j 都提供多种选择。
- LangChain4j与 Spring AI 的对比
快速开始
-
IDEA新建一个springboot项目,使用Spring lnitializr快速构建。
-
maven项目在pom文件中引入LangChain4j的核心依赖与要接入的大模型依赖
- 在test包下新建一个测试类TestChat
- 写一个测试用例,如果有OpenAI API 密钥。 建议将 API 密钥存储在环境变量中。这里演示,用langchain4j的demo密钥。
运行结果如图
- 接入deepseek,首先需要在deepseek控制台创建一个API-Keys
因为deepseek接口标准与open-ai是同一套,所以chatmodel不需要更换。
运行结果如图
- 接入Qwen,首先需要在阿里百炼控制台创建一个API-Keys
这里pom需要引入新依赖
新增一个测试用例
运行结果报错
com.alibaba.dashscope.exception.ApiException: {“statusCode”:403,“message”:“Model access denied.”,“code”:“Model.AccessDenied”,“isJson”:true,“requestId”:“c6930245-746d-96bf-9eea-f05a03ef67d4”}
; status body:{“statusCode”:403,“message”:“Model access denied.”,“code”:“Model.AccessDenied”,“isJson”:true,“requestId”:“c6930245-746d-96bf-9eea-f05a03ef67d4”}
解决方法:
查看官网错误码(https://help.aliyun.com/zh/model-studio/error-code)
发现新建的业务空间没有授权对应的模型,而默认的业务空间是授权的,测试的业务空间授权即可。
运行结果如图
结语
通过本文的集成实践,我们成功在Spring Boot应用中构建了双AI引擎架构。这种设计具有以下优势:
-
灵活切换:通过配置文件轻松切换不同AI服务商
-
优势互补:结合通用模型与垂直领域模型的优势
-
容灾备份:当某服务不可用时自动切换备用引擎
后续可扩展实现:
-
动态权重分配机制
-
结果质量对比分析
-
多模型负载均衡
建议开发者根据实际业务需求,结合LangChain4j的丰富功能(记忆管理、文档解析等),构建更智能化的企业级AI应用。注意合理设计API调用频率,平衡响应速度与使用成本。
写在最后:更多AI学习资料请添加学习助手领取资料礼包
视频学习资料:
从0开始开发超级AI智能体,干掉所有重复工作
- 基于字节的coze平台从0到1搭建我们自己的智能体
- 从coze到超级创业个体:2025是AI Agent大爆炸的元年!
- 搭建智能体的七大步骤:需求梳理、软件选型、提示工程、数据库、构建 UI 界面、测试评估、部署
- 你的智能体如何并行调用多个通用AI大模型?
- 实战案例:AI Agent提取小红书文案以及图像进行OCR文字识别并同步写入飞书多维表格
- 实战案例:AI Agent提取抖音爆款短视频链接中的文案,基于大模型和提示词完成符合小红书风格和作者特点的文案仿写
DeepSeek AI Agent +自动化助力企业实现 AI 改造实战
- DeepSeek 大模型的本地部署与客户端chatbox本地知识库
- 程序员的跨时代产品,AI 代码编辑器cursor深入浅出与项目构建
- 软件机器人工具影刀RPA工业化地基本使用
- 影刀RPA WEB自动化采集Boss直聘岗位信息并存储
- 影刀AI Power与DeepSeek 工作流构建影刀AI Agent
- AI HR实战:结合影刀RPA+DeepSeek AI智能体,实现智能自动招聘机器人
大模型技术+ 数字人+混剪造就副业王炸组合
- 数字人的概念与价值
- 当前数字人的时代背景
- 数字人的市场需求
- 数字人与自媒体的关系和发展路径
- 商业化数字人的变现之路
- 基于coze搭建数字人超级智能体
- 大模型技术+数字人+混剪=最强副业方向
- AI大模型与数字人造就3分钟获客300条精准线索
- AI副业接单渠道与流量变现
- 程序员开发的AI数字人实战
更多推荐
所有评论(0)