logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

对话记忆—数据库和Redis不同的实现

但是一旦聊天记录多了依然会超过token上限, 但是有时候我们依然希望存储更多的聊天记录,这样才能保证整个对话更像“人”。可以在每次对话的时候把当前聊天信息和模型的响应存储到ChatMemory, 然后下一次对话把聊天记录取出来再发给大模型。大模型的token是有上限了,如果你发送过多聊天记录,可能就会导致token过长。如果有多个用户在进行对话, 肯定不能将对话记录混在一起, 不同的用户的对话记

文章图片
#数据库#redis#缓存
SpringAi快速使用

接入deepseek1.依赖获取deepseek api-key● API Key:需从 DeepSeek 创建并获取 API 密钥:https://platform.deepseek.com/api_keys3.配置4.4. 测试spring-ai-starter-model-deepseek 会为你增加自动配置类, 其中DeepSeekChatModel这个就是专门负责智能对话的。option

文章图片
SpringAI RAG全链路讲解

检索增强生成(Retrieval-augmented Generation)对于基础大模型来说, 他只具备通用信息,他的参数都是拿公网进行训练,并且有一定的时间延迟,无法得知一些具体业务数据和实时数据, 这些数据往往在各种文件中(比如txt、word、html、数据库…)虽然function-call、SystemMessage可以用来解决一部分问题但是它只能少量,并且针对的场景不一样如果你要提供

文章图片
SpringAI1.0入门到实战到原理

Spring AI 是一个面向人工智能工程的应用框架。解决了 AI 集成的基本挑战:将企业数据和API与AI 模型连接起来。

文章图片
自动化监控系统Prometheus&Grafana

Prometheus 算是一个全能型选手,原生支持容器监控,当然监控传统应用也不是吃干饭的,所以就是容器和非容器他都支持,所有的监控系统都具备这个流程,

文章图片
#自动化#prometheus#grafana
缓存之Tair

​在Tair出现之前的很长一段时间里,像redis、memcache这些知名NoSql数据库是不支持分布式的,在这样的背景下,由淘宝网自主开发并在2010.6开源的一个高性能、高扩展、高可靠分布式缓存,类似map的key/value结构,在淘宝、天猫等各个应用中广泛应用。​Tair官网:https://www.oschina.net/p/tair​gitee地址:https://gitee.com

文章图片
#缓存
到底了