logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

让大模型会说话:基于springwebsocket的毫秒级流式RAG对话

流式对话工程技术解析 本文深入探讨流式对话的工程实现,从用户体验、技术原理到具体代码实现。文章首先分析了流式传输的三大优势:降低首包时间、支持中断响应和增强用户掌控感。随后详细拆解流式技术的四层实现逻辑:传输层、模型层、后端层和前端层。 核心内容包括: 最小化消息协议设计,定义四种核心事件格式 WebSocket与SSE的技术选型比较 端到端实现流程要点 完整的Java后端代码示例(会话网关和LL

文章图片
#学习#java
Kafka在企业级RAG系统中的最佳实践:从消息可靠性到异步流水线

某天生产环境突然收到告警:用户上传了100个文档,每个10MB,前端显示"上传成功",但用户在AI对话时查询不到任何内容。经过排查发现,文件已经上传到MinIO,但后续的文档解析和向量化流程从未执行。这就是典型的同步处理导致的系统脆弱性问题。本文将分享我如何用Kafka构建一个健壮的异步文件处理流水线。✅可靠性:事务保证 + 死信队列,零消息丢失✅性能:异步处理,吞吐量提升10倍✅扩展性:水平扩展

文章图片
#linq#c##java +1
Kafka在企业级RAG系统中的最佳实践:从消息可靠性到异步流水线

某天生产环境突然收到告警:用户上传了100个文档,每个10MB,前端显示"上传成功",但用户在AI对话时查询不到任何内容。经过排查发现,文件已经上传到MinIO,但后续的文档解析和向量化流程从未执行。这就是典型的同步处理导致的系统脆弱性问题。本文将分享我如何用Kafka构建一个健壮的异步文件处理流水线。✅可靠性:事务保证 + 死信队列,零消息丢失✅性能:异步处理,吞吐量提升10倍✅扩展性:水平扩展

文章图片
#linq#c##java +1
rag-vectorization1

RAG项目中的向量化实战:精准检索的核心技术 本文详细介绍了RAG(Retrieval-Augmented Generation)项目中实现精准文档检索的向量化技术。文章首先分析了传统关键词检索的局限性,如无法处理同义词、语义偏差和多语言问题。随后深入解析了向量化技术的核心原理:将文本转化为高维向量,使语义相似的文本在向量空间中更接近。通过具体代码示例展示了如何调用Embedding API实现文

文章图片
#java
到底了