logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Flink-Sql1.12 to Hive使用遇到的问题-程序宕机后重启遇大数据量积压导致taskmanager内存不足无法从指定offset启动

2. 若数据量过大,程序报错:Caused by: java.lang.OutOfMemoryError: Java heap space,内存不足,导致无法checkpoints,分区数据文件无法提交,程序最终失败!1. 数据量太大,flink处理不过来时。会导致丢失任务失败的间隔段。(丢失的数据可以从kafka手动恢复,过程较为麻烦)1. flink在指定kafka offset启动(重启)后

文章图片
#flink#hive#大数据
到底了