logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

java版 flink aggregate函数应用小程序【纯干货】

"4000,d",// 迟到数据,第4秒的数据在第5秒之后到达。"5000,e",// 第5秒 (跳过第4秒)"14000,n",// 第14秒。"15000,o",// 第15秒。"16000,p",// 第16秒。"17000,q",// 第17秒。"18000,r",// 第18秒。"19000,s",// 第19秒。"11000,k",// 第11秒。"13000,m",// 第13秒。

#flink#大数据
Hadoop-HA集群搭建

注:这5台服务器已经配置好了JDK1.8、Zookeeper、mysql-5.6等必备工具及基本环境,这些基础配置以及Hive在这里不作介绍!正常情况下集群会把另一台namenode的standby状态自动切换为active状态 至此Hadoop-HA高可用集群配置完毕!⑤ 测试远程登录(任意服务器之间进行登录操作验证,如果能直接登录到对方服务器就表示配置OK!② 将每一台服务器生成的密钥整合到同

#云计算#kubernetes#centos
java版用 Flink SQL 搭建一个从Kafka实时统计应用程序【纯干货】

摘要:本文展示了使用Flink SQL处理Kafka订单数据的完整流程。首先创建了一个包含时间戳、用户ID和金额的订单表,配置了5秒水位线延迟,并指定Kafka连接参数。随后通过SQL客户端执行1分钟滚动窗口聚合查询,统计每分钟销售总额。查询结果显示2026-04-08 15:50至15:53期间三个时间窗口的销售金额分别为45.0、290.0和245.0。整个过程演示了Flink SQL实时处理

#java#flink#sql
java 版flink模拟生成订单数据写入kafka小程序【纯干货】

/ 生成一个随机整数,范围从0(包含)到100(不包含)// 订单下单时间戳(当前时间)// 计算时间差(以毫秒为单位)* flink 模拟生成订单数据,发生至kafka中,并验证。// 创建自定义Source生成订单数据。// 获取第二个时间点。// 将时间差转换为秒。// 每秒生成一个订单。// 自定义Source生成订单数据。

#java#flink#kafka
linux 性能分析工具pidstat使用详解及案例【纯干货】

pidstat 是一个常用的进程性能分析工具,用来实时查看进程的 CPU、内存、I/O 以及上下文切换等性能指标;pidstat 的用法:pidstat [ 选项 ] [ <时间间隔> ] [ <次数> ]常用的参数:-u:默认的参数,显示各个进程的cpu使用统计-r:显示各个进程的内存使用统计-d:显示各个进程的IO使用情况-p:指定进程号-w:显示每个进程的上下文切换情况-t:显示选择任务的线

#linux#运维#服务器 +1
flink 任务rocksDB性能优化

关注指标:rocksdb.block-cache-hit-rate(缓存命中率,越高越好)、rocksdb.num-running-compactions(正在进行的压缩任务数)、rocksdb.mem-table-flush-pending(等待刷盘的 MemTable 数)。RocksDB 的调优核心在于平衡‌读放大‌、‌写放大‌和‌空间放大‌,并根据硬件资源(特别是 SSD 性能和内存大小)

#flink#大数据
flink taskmanager 内存模型及内存调优案例

优先配置 Process Size‌:在 K8s/YARN 环境下,直接设置,让 Flink 自动计算内部各部分内存,避免手动配置冲突。‌预留安全余量‌:容器环境的内存限制应比略大(或依靠 Flink 自身的 Overhead 机制),防止因瞬时峰值被系统 Kill。‌监控驱动调优‌:利用 Flink Web UI 的 ‌Metrics‌ 标签页,重点关注以及。开启 GC 日志 (),分析 GC

#flink#大数据
Flink SQL 中的数据倾斜解决方案

‌监控定位‌:通过 Web UI 确认是否存在倾斜,识别是哪个算子(Source, Join, Agg)出问题。‌参数调优‌:优先开启mini-batch和,这是成本最低且效果显著的手段。‌SQL 改写‌:若是,确保开启 distinct split。若是普通GROUP BY倾斜,尝试手动加盐两阶段聚合。若是JOIN倾斜,判断是否可用 Broadcast Join,否则采用分流或加盐策略。‌资源调

#flink#sql#性能优化
HDFS I/O瓶颈定位及优化

定位HDFS I/O瓶颈的核心在于‌区分是“硬瓶颈”(磁盘/网络物理极限)还是“软瓶颈”(配置/架构不合理)‌。先用iostat和TestDFSIO确定是磁盘慢还是整体吞吐低。若磁盘忙,优化RAID、更换SSD或均衡数据分布。若磁盘不忙但吞吐低,优化TCP参数、增加Handler线程数或开启短路读。若NameNode响应慢,治理小文件或扩容NameNode内存。

#hdfs#hadoop#大数据
flink taskmanager 内存模型及内存调优案例

优先配置 Process Size‌:在 K8s/YARN 环境下,直接设置,让 Flink 自动计算内部各部分内存,避免手动配置冲突。‌预留安全余量‌:容器环境的内存限制应比略大(或依靠 Flink 自身的 Overhead 机制),防止因瞬时峰值被系统 Kill。‌监控驱动调优‌:利用 Flink Web UI 的 ‌Metrics‌ 标签页,重点关注以及。开启 GC 日志 (),分析 GC

#flink#大数据
    共 14 条
  • 1
  • 2
  • 请选择