
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
排查 SkyWalking 日志积压时冒出一个反直觉的问题:ES 常被说成「吃内存」,凭什么几百 G 日志存得下还查得动?答案是 ES/Lucene 数据根本不全装内存——它落在磁盘的不可变 segment 文件里,靠操作系统 page cache 把热数据按需缓存。本文从这个疑问出发,串起写入链路(buffer/translog/refresh/flush)、段合并、倒排索引与 doc valu

本文介绍如何使用Docker快速部署Flink 1.20.1集群,5分钟即可完成从零部署到任务运行。主要内容包括:创建目录结构、下载监控依赖(可选)、编写docker-compose配置文件(含JobManager和TaskManager)、启动服务验证以及提交任务的两种方式。配置支持Prometheus监控指标采集,提供生产级告警规则,并详细说明了各配置项作用。通过挂载本地目录实现数据持久化,适
本文介绍了使用Docker快速部署ClickHouse列式数据库的完整流程,包含监控和可视化配置。主要内容包括:1)通过临时容器获取默认配置并修改时区;2)配置Prometheus监控端点;3)正式启动容器并验证部署;4)集成Prometheus监控,提供核心告警规则配置模板。特别强调时区设置的重要性,避免时间查询偏差。整个过程只需10分钟即可完成高性能OLAP数据库的本地环境搭建,适合快速体验C
本文介绍了使用 Flink CDC 实现 MySQL 到 ClickHouse 实时数据同步的方案。通过 Flink CDC 捕获 MySQL 的 Binlog 变更,利用 ReplacingMergeTree 引擎处理数据更新,实现增量同步与断点续传。文章详细说明了环境配置步骤,包括 MySQL Binlog 开启、权限设置以及 ClickHouse 表设计,并提供了完整的 Maven 依赖配置
本文介绍了一种基于Flink CDC的MySQL到ClickHouse多表实时同步解决方案,通过配置驱动代替重复编码,实现百表同步。方案采用正则匹配或精确映射方式配置表同步关系,支持动态发现新表、自动加载表结构、处理DECIMAL、DATETIME等特殊类型转换。相比传统单表同步方案,该方案显著提升开发效率,降低维护成本,支持7种常见同步场景,并提供完整的代码实现,可直接应用于生产环境。
摘要 当SkyWalking的Kafka消费积压6亿条消息时,紧急扩容分区无效,排查发现数据倾斜严重,少数分区承担了绝大部分流量。深入源码发现,Agent上报数据时固定以实例名作为Kafka消息的Key,导致相同实例的数据始终路由到同一分区。解决方案包括:1)紧急降低采样率减少数据量;2)修改源码将Key设为null,使Kafka均匀分配数据。最终通过优化配置和源码修复解决了积压问题,保障了系统稳
本文介绍了一套轻量级、生产验证的 DolphinScheduler 监控方案,通过集成 Prometheus 和 Grafana 实现任务调度系统的全方位监控。方案包含三个关键步骤:首先确认 DolphinScheduler 2.0+ 版本支持指标暴露;其次配置 Prometheus 抓取任务;最后设置10条核心告警规则,涵盖服务存活检测(如1小时无成功任务)、任务健康度(如失败率过高)和Work
本文介绍如何用Docker快速部署轻量级调度平台DolphinScheduler单机模式。针对中小团队离线数仓场景,推荐使用单机模式+MySQL数据持久化方案,10分钟即可完成部署。详细步骤包括:1)部署MySQL容器;2)初始化数据库表结构;3)下载MySQL驱动;4)配置docker-compose启动DolphinScheduler。重点解决容器网络连接、驱动加载等常见问题,并提供验证方法和
本文介绍了一种轻量级离线数仓搭建方案,采用ClickHouse+DolphinScheduler组合替代传统的Hadoop全家桶。该方案适用于日增数据量千万级以下的中小团队,具有部署简单(仅需2个组件)、运维成本低等优势。文章详细演示了从数仓分层设计(ODS/DWD/DWS/DIM/ADS)、利用ClickHouse原生MySQL引擎实现数据同步,到通过DolphinScheduler配置增量调度
本文介绍了一套高效通用的MongoDB到ClickHouse实时同步方案,通过配置驱动方式实现多集合自动同步。针对MongoDB特有的驼峰命名、嵌套对象、脏数据等问题,设计了15种智能映射策略,包括字段重命名、类型转换、数据清洗等功能。方案采用单一Flink作业处理多个集合,通过配置文件定义映射规则,避免代码重复修改。核心优势在于配置灵活性(新增集合仅需修改配置文件)、数据处理能力(自动转换Ext







