logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

当消费者无法及时消费kafka中数据,出现了消息积压,如何解决呢

1) 可以增加消费者的数量(注意: 最多和topic的分片数量相等, 并保证都在一个组内)2) 如果无法增加, 可以调整topic的分片数量, 以此来增加更多的消费者3) 调整消费者的消息的机制, 让其消费的更快...

文章图片
#kafka#分布式#zookeeper
kafka内存缓冲池机制造成的频繁GC问题

kafka发送消息时,会将多条消息组成一个batch再进行批量发送,这样做的目的是可以提高kafka的吞吐量,不必每次来一条消息就进行一次网络请求,那么这些批量的消息发送出去后,必然还存在于内存中,等待的将是JVM的GC,当消息越来越多时,带来的问题就是频繁的GC,也就是会造成频繁的STW。针对上述问题,于是kafka就设计出了缓冲池的概念,kafka先将一片内存区域固定下来专门用于存放batch

#spark#big data#hdfs
Linux发行版和Linux的区别

Linux发行版包括Linux内核(Linux的核心源代码)、系统库和系统程序。Linuxnei'he'shi'zui'ji'chu'de'bu'fen

#linux
hive的安装,启动,连接操作(最详细解决方案,直接按着操作即可)

hive的安装1. 修改 hadoop的 core-site.xml中, 添加以下内容:#修改hadoop 配置文件 etc/hadoop/core-site.xml,加入如下配置项:<property><name>hadoop.proxyuser.root.hosts</name><value>*</value></propert

#hive#hadoop#big data +1
Timeout expired after 60000milliseconds while awaiting InitProducerId

将Kafka unclean leader参数设置为true先选举出主分片,后续修改server配置,将最小ISR数量变更为2。Kafka集群有一台节点磁盘坏了,partition无法选主,导致flink任务无法写Kafka。

文章图片
#kafka#java#大数据 +1
Hbase的flush刷新机制

flush刷新机制(溢写合并机制):流程: 客户端不断将数据写入到memStore内存中, 当内存中数据达到一定阈值后, 需要将数据溢写刷新的HDFS中 形成一个storeFile文件阈值: 128M 或者 1小时 满足任意个都会触发flush机制内部详细流程: hbase 2.0架构 以上流程:1) 客户端不断向memStore中写入数据, 当memStore只数据达到阈值后, 就会启动flus

#hbase#hadoop#hdfs
Kafka突然宕机怎么办

Kafka 宕机引发的高可用问题从 Kafka 部署后,系统内部使用的 Kafka 一直运行稳定,没有出现不可用的情况。但最近系统测试人员常反馈偶有 Kafka 消费者收不到消息的情况,登陆管理界面发现三个节点中有一个节点宕机挂掉了。但是按照高可用的理念,三个节点还有两个节点可用怎么就引起了整个集群的消费者都接收不到消息呢?要解决这个问题,就要从 Kafka 的高可用实现开始讲起。Kafka 的多

#kafka#rabbitmq#分布式
HBase练习题2(附答案)

一、单选题如果对HBase表的添加数据记录,可以使用(C)命令进行操作。A.create B.get C.put D.scan如果需要对HBase表中的数据进行列表查看,可以使用(B)命令进行操作。A.count B.scan C.put D.get以下更新HBase表中数据的语法,输写正确的是(D)。A.update user. xiaoming’ set info.age=1B.update

#spark#big data#hdfs
vim详解

1.编辑器简介vi编辑器是所有Unix及Linux系统下标准的编辑器,相当于windows系统中的记事本一样,它的强大不逊色于任何最新的文本编辑器。是使用Linux系统不能缺少的工具。由于对Unix及Linux系统的任何版本,vi编辑器是完全相同的。vim(vi improved)编辑器是从 vi 发展出来的一个文本编辑器。代码补完、编译及错误跳转、语法高亮等方便编程的功能特别丰富,在程序员中被广

#vim#linux#windows
Hive 导出数据的五种方式

1. Insert方式,查询结果导出到本地或HDFSInsert overwrite local directory ‘/root/insert/student’ select id,name from student;Insert overwrite directory ‘/user/ insert /student’ select id,name from student;2. Hadoop命

#hive#hadoop#数据仓库
    共 11 条
  • 1
  • 2
  • 请选择