
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
Flink CDC
摘要:Flink CDC 3.0是新一代变更数据捕获框架,实现了从数据库连接器到完整数据集成平台的演进。其核心特性包括:1)基于YAML的声明式Pipeline配置,简化数据同步任务定义;2)增量快照算法支持无锁多并发读取,提升初始同步效率;3)Schema Evolution功能自动处理表结构变更;4)支持分库分表合并等高级路由功能。架构上采用分层设计,底层复用Flink成熟生态,上层提供数据转
Flink CDC
摘要:Flink CDC 3.0是新一代变更数据捕获框架,实现了从数据库连接器到完整数据集成平台的演进。其核心特性包括:1)基于YAML的声明式Pipeline配置,简化数据同步任务定义;2)增量快照算法支持无锁多并发读取,提升初始同步效率;3)Schema Evolution功能自动处理表结构变更;4)支持分库分表合并等高级路由功能。架构上采用分层设计,底层复用Flink成熟生态,上层提供数据转
Flink-Hadoop实战项目
摘要:本项目构建了一个基于Apache Flink的铁路票务数据处理平台,实现HDFS文件到Hive数据仓库的实时转换。系统包含两个核心作业:1)文件处理作业定时扫描HDFS目录,解析票务和乘客信息文件并写入Parquet格式的Hive表;2)数据合并作业每小时关联两张源表生成完整车次信息。技术栈采用Flink 1.18.1流处理引擎,结合Kerberos认证保障安全,Quartz实现调度管理。系

到底了







