logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

kafka迁移方案

背景目前线上环境有200套kafka集群,且kafka的版本有0.10、2.0等版本。需要在不影响业务的情况下迁移到kafka2.5版本。方案结合目前Kafka集群的现状建议采用两个集群数据同步的方式进行迁移,采用数据同步的方式迁移可以不影响Kafka的业务使用方,同时可以使用zookeeper的新版本。具体Kafka迁移方案如下:迁移步骤如下:Ø在部署了Kafka2.5版本的..

文章图片
#kafka#分布式#java
kafka 配置参数

一、Broker 端参数1:Broker是需要配置存储信息的,即Broker使用哪些磁盘,针对存储信息的参数如下:log.dirs:指定Broker需要使用的若干个文件目录,这个参数没有默认值,这个需要自己指定。log.dir:他是上一个参数的补充。所以只用设置log.dirs即可。2:一般线上的生产环境中都会给log.dirs指定多个路径,例如:/opt/kafka1,/opt/kafka2,/

#kafka#zookeeper#java
Kafka的Topic和Partition是不是有个数限制?

Topic官方没有给具体建议数字,我们之前的最佳实践一个集群上有2W+ Topic无压力Partition官方给过一个公式可以参考:每个Broker的Partition数量最好限制在100 × b × r(b是Broker数,r是Partition副本数),滴滴的最佳实践是单节点Parttion不易超过1000个,大量小文件容易导致HDD盘的读写性能下降如果Partiton数过多,对于0.10.X

文章图片
#kafka#分布式#big data
Kafka版本概览

Apache自从接受LinkedIn捐赠Kafka之后,于2012年1月4日对外正式发布0.7这个版本,10年后的今天,Kafka已经陆续发布了46个版本 仔细研究发现Kafka目前总共演进了7个大版本,分别是0.7、0.8、0.9、0.10、0.11、1.0和2.0,比如2.0大版本中,期间历经了19个小版本,目前2.8.0去除对ZooKeeper的依赖算是一个大的更新 我们整理了一张图,用来阐

文章图片
#kafka#java#zookeeper
到底了