logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Flink CDC 在超大数据量表同步中的风险与最佳实践详解

Flink CDC在处理十亿级数据表时,默认全量同步机制会导致系统崩溃。本文提出两种解决方案:1)使用DataX等工具预同步历史数据,再通过Flink CDC仅监听增量变更;2)利用Checkpoints和Savepoints机制防止任务重启时的全量重拉。关键点包括:配置latest-offset模式跳过全量同步、合理设置状态快照、确保上下游数据对齐。通过解耦历史与增量数据处理,可显著提升大表同步

#mysql#数据库
微服务架构全景深度解析:多年架构实践中的光与影

说到微服务,几乎每一个开发者、架构师都听说过,但真正把它落地的少,把它落地得好的更少。写代码容易,做“服务治理”难;本地跑得通容易,上生产跑得稳难;拆成服务容易,拆完还能高效团队协作更难。虽然如今云原生大行其道,但是技术的广泛应用总是缓慢的,很多项目仍在使用单体架构,今天我就把这么多年程序开发中如今不在那么“热门”的微服务架构掰开讲透。数据怎么分、接口怎么管、故障怎么隔离、发布怎么不炸、问题怎么定

#架构#微服务#云原生
Agent开发之为什么有了LangChain4j框架,我们却不能直接使用它?——桥接层设计详解

文章摘要 LangChain4j框架与自主开发的会话系统各有优势,需要通过桥接层实现互补。LangChain4j在结构化输出、RAG框架和工具调用方面表现优异,能自动处理JSON转换、参数解析等复杂逻辑。而自主系统则在会话管理、智能上下文压缩和动态提供商配置等企业级功能上更具优势。实际案例显示,LangChain4j的结构化输出功能可显著简化开发流程,避免手动处理JSON Schema和解析等繁琐

#python#人工智能#开发语言 +2
四大主流数据库的数据变更感知(CDC)实战指南:MySQL、PostgreSQL、MongoDB、Redis

本文系统介绍了分布式架构中四种数据库(MySQL、PostgreSQL、Redis、MongoDB)的数据变更感知(CDC)实现方案。MySQL基于Binlog的RBR模式,PostgreSQL通过WAL逻辑复制槽,MongoDB使用官方Change Streams,Redis则依赖有限的Keyspace通知功能。文章详细对比了各方案优缺点,并提出了通用工程化实践,包括全量+增量同步、断点续传、事

#数据库#mysql#postgresql +1
云计算 vs 云原生:到底有什么区别?一文彻底理清

本文全面解析了云计算与云原生的区别与联系。云计算是面向资源的产品形态,提供IaaS、PaaS、SaaS等服务模式,核心在于弹性资源供给和按需付费。云原生则是技术实现体系,包含微服务、容器化、DevOps等五大支柱,旨在最大化利用云资源优势。两者互为补充:云计算提供基础设施,云原生提供架构方法。文章建议从容器、K8s等技术入手系统学习云原生,最终实现企业高效用云目标。理解二者的本质差异,有助于开发者

#云计算#云原生#java
为什么不建议使用 Docker 来部署 MySQL 数据库:深度解析与实战建议

在当今容器化大行其道、云原生理念深入人心的背景下,越来越多的企业开始尝试将各种系统组件以 Docker 容器的形式进行部署,包括数据库。但数据库不同于无状态服务,其对持久化存储、性能隔离、数据一致性和稳定性有着更高的要求。今天我们就深入探讨一个非常务实的问题:是否应该使用 Docker 来部署 MySQL 数据库容器?答案并不绝对,但笔者并不推荐使用 Docker 来部署 MySQL,理由如下,我

#数据库#docker#mysql +3
漫谈Agent系统中的长事务处理:从踩坑到方案演进

本文分享了在AI Agent系统中处理长事务时遇到的典型问题及解决方案。作者通过实际案例展示了"大事务"设计的陷阱——将耗时操作(如文档解析、AI模型调用)包含在数据库事务中,导致数据库连接池耗尽、系统响应变慢等问题。重点分析了AI调用在事务中的隐蔽性危害(通常耗时5-30秒),并提出了优化方案:将耗时操作放在事务外执行,仅将数据库操作放在短事务内。对于AI调用失败的情况,建议采用记录失败状态或分

#数据库
电商平台千万级用户异地登录欢迎短信系统设计详解

本文设计了一个高并发短信发送系统,用于在用户首次从新城市登录时发送欢迎短信。系统采用RocketMQ处理7万QPS的基站信令数据,通过Redis布隆过滤器(分城市构建)实现高效判重,结合异步短信发送和定时任务(每日重建过滤器)保证性能。架构充分利用现有组件,具备读写分离、批量处理等优化,支持千万级用户场景下的低延迟、低误判需求,同时提供了Redis故障兜底和监控方案,实现了不加新组件的高效扩容能力

#mysql#spring#spring boot +1
如何让 AI 优雅的批量处理文档摘要?详细实战流程图带你搞懂批量文档处理(带崩溃恢复详细过程)

这篇文章探讨了批量处理PDF文档时程序崩溃后的恢复方案。当AI处理100个文档中途崩溃时,系统采用三层架构(任务→文档→分块)确保断点续传。核心设计包括:分块表存储每个片段的摘要状态,数据库记录处理进度,以及并发控制机制。正常流程中,小文档直接处理,大文档分块处理并实时保存状态;崩溃恢复时,通过查询已有分块记录继续未完成的工作。这种方案既保证了处理效率,又实现了可靠的崩溃恢复功能。

#人工智能#架构#java +1
ElasticSearch 与 MySQL 搭配实战解析:电商场景下的全文检索系统架构设计

本文探讨了大型互联网系统中全文检索系统的架构设计,重点分析了ElasticSearch与MySQL的协同应用。文章指出传统MySQL检索架构存在性能瓶颈和功能局限,提出"MySQL为权威存储+ES为搜索引擎"的双层架构方案。通过电商案例详细解析了系统流程设计、数据同步机制和业务场景优化,强调ES应专注搜索功能而MySQL负责关系存储。最后总结了两种技术的最佳搭配实践及适用场景,

#全文检索#elasticsearch#mysql
    共 28 条
  • 1
  • 2
  • 3
  • 请选择