
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
SpringBoot中集成Langchain4j实现大模型多轮对话,通过自定义Redis存储实现聊天记忆持久化。核心代码基于CustomRedisChatMemoryStore,将对话消息(用户、AI文本/工具调用、工具结果)序列化为JSON存入Redis,支持跨会话状态保持。结合OpenAiChatModel配置API密钥与端点,实现带Function Calling的智能交互,提升问答系统上下
大模型会话的持久化存储方案:通过@MemoryId和@UserMessage注解区分会话与用户输入,利用Redis存储历史对话(chat:memory:{sessionId}),结合MessageWindowChatMemory维护最多10条消息。每次请求读取历史记录并拼接新问题发送给大模型,返回结果后将新消息序列化为SimpleMsg存回Redis,设置7天过期。核心依赖LangChain框架与
LangChain4j 是专为 Java/Kotlin 生态设计的 LLM 开发框架,支持 20+ 模型无缝集成,内置 RAG、Agent 等能力。通过 Maven 配置引入 OpenAI 兼容模型,结合 Spring Boot 实现快速开发。配置文件中定义 API 密钥与端点,使用 @Bean 注册模型实例,通过 PromptTemplate 构建提示词,实现自然语言交互。该框架简化了大模型应用
大模型调用本地工具的Function Calling机制。通过定义get_current_time和calculator两个工具函数,并在请求中传入工具描述,模型可自主决定是否调用。当模型需调用工具时,系统会执行对应函数并返回结果,再递归调用模型生成最终回答。支持多轮对话,实现时间查询、数学计算等增强功能,输出结果整洁无代码符号。
如何通过火山引擎方舟平台获取大模型接口并使用Python调用。通过配置API密钥和模型端点,利用requests库发送JSON格式请求,实现单轮对话调用,可高效获取大模型回答,适用于AI助手开发场景。
本文介绍了如何在本地运行开源大语言模型DeepSeek-R1,主要包含以下内容:1)解释LLaMA是Meta公司推出的大语言模型;2)环境搭建步骤,包括下载1.5B参数的DeepSeek模型文件和llama.cpp执行程序;3)通过命令行和Web服务两种方式启动模型,其中Web服务支持局域网访问;4)提供关键参数说明,如模型路径、GPU层数、上下文长度等。整个过程无需GPU,在普通PC上即可体验大
多线程任务处理 JDK8, JDK21, GO 测试对比
本文介绍了Elasticsearch、Prometheus、Grafana和Kafka的安装配置及监控搭建过程。主要内容包括:1)Elasticsearch单机模式配置,启动及验证;2)通过elasticsearch_exporter将ES指标暴露给Prometheus;3)Prometheus和Grafana的安装配置,实现指标采集和可视化监控;4)Kafka的环境搭建,包括存储目录配置、集群I







