logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Kafka SASL安全认证机制与ACL用户权限控制

概述自0.9.0.0.版本引入Security之后,Kafka一直在完善security的功能,以提高kafka集群的安全性。当前Kafka security主要包含3大功能:认证(authentication)、信道加密(encryption)和授权(authorization)。认证Kafka SASL的认证范围包含如下:Client与Broker之间Broker与Broker之间...

#kafka#安全#运维
Flink非对齐checkpoint踩坑记

Flink非对齐checkpoint的实践与挑战:在处理拓扑中关键算子A导致背压和checkpoint失败时,最初尝试使用非对齐checkpoint但遇到诸多问题。Flink1.18前版本存在并行度扩展的严重bug,且非对齐checkpoint会导致checkpoint数据量剧增且无法回退。最终解决方案是扩增算子并行度3-5倍并配置独享槽,需重置状态和kafka位点。非对齐checkpoint仅建

Flink keyby使用随机数踩坑记

摘要:Flink作业在保存点(savepoint)时抛出异常,提示"Key group 0 is not in KeyGroupRange{startKeyGroup=151, endKeyGroup=153}"。该问题源于KeySelector函数返回了随机值作为分组键,导致键值非确定性(hashCode/equals不一致)。Flink要求key必须确定性地映射到特定key

#flink#python#大数据
Flink做checkpoint迟迟过不去的临时解决思路

Flink作业在大促期间常因数据倾斜或突增导致checkpoint失败,临时解决方案是配置execution.checkpointing.tolerable-failed-checkpoints参数(如设为100万),允许更多失败检查点以维持作业稳定性。该参数是容错机制的"安全阀",用于防止问题恶化,但不能根治问题。大促后需排查根本原因并上线新方案,通过备任务并行运行实现平滑迁

#flink#大数据
Flink 任务调优案例分析

该案例展示了Flink任务调优前后的显著改进。调优前存在严重数据倾斜(最大/最小数据量差距100倍),导致checkpoint难以完成,资源消耗大(2002CPU/5016G内存)。通过加盐处理(对A流扩增n倍,B流随机盐值)、测流优化和滚动窗口去重等手段,成功消除数据倾斜(最大/最小数据量比降至1倍以内)。调优后并行度降低62%,资源消耗减少80%(400CPU/656G内存),checkpoi

#flink#大数据
Flink Rebalance触发乱序的问题

摘要:Flink中使用Rebalance算子实现数据流负载均衡时,发现由于Round-Robin轮询策略导致时间相近的数据在计算后无法对齐业务需求。排查发现新增的filter算子采用了rebalance连接方式,造成数据无序分发。通过将连接方式改为基于唯一键的hash策略(keyby)后,成功解决了数据对齐问题。对比图示展示了优化前后的算子连接方式变化。

#flink#大数据
Spark SQL CACHE TABLE 详解

内存缓存 + Session 隔离默认级别适用场景= 维表关联、中间结果复用、迭代计算核心原则= 够用即可,用完释放。

#spark#sql#大数据
Spark SQL CACHE TABLE 详解

内存缓存 + Session 隔离默认级别适用场景= 维表关联、中间结果复用、迭代计算核心原则= 够用即可,用完释放。

#spark#sql#大数据
数据分析开源可视化工具

superset简单易用,可以对接 mysql、presto、doris、postgresql、ClickHouse、sparkSQL、hive、oracle、sqlserver、Elasticsearch等多种数据源,官网安装部署:docker run -d -p "8088:8088" --name superset amancevice/superset初始化superset并设置管理员账号

#数据分析#数据可视化
解决hive元数据库乱码问题

有两种方案,方案一可以一次性永久解决乱码问题;如果只针对当前数据库,推荐使用方案二,不会影响其他库。解决方案一:1、查看字符集:MySQL [hive]> use hive;MySQL [hive]> show variables like 'char%';+--------------------------+----------------------------+| Variab

#mysql#大数据#hive +1
    共 22 条
  • 1
  • 2
  • 3
  • 请选择