【Kafka】记录一次K8环境下不同存储的Kafka benchmark测试

本次主要针对k8s环境下不同的存储openebs和ceph进行benchmark测试集群环境两个集群环境出了存储不同，broker、topic信息均相同kafka Info：5个brokerTopic Info：副本数3；分区30kafka server version：2.6.0生产者测试消息数：100w；每条消息大小：10byte存储类型每秒发送消息数 (records/sec)发送速率 (M

午睡的猫…

644人浏览 · 2020-12-29 17:54:34

午睡的猫… · 2020-12-29 17:54:34 发布

本次主要针对k8s环境下不同的存储openebs和ceph进行benchmark测试

集群环境

两个集群环境出了存储不同，broker、topic信息均相同

kafka Info：5个broker

Topic Info：副本数3；分区30

kafka server version：2.6.0

生产者测试

消息数：100w；每条消息大小：10byte

存储类型	每秒发送消息数 (records/sec)	发送速率 (MB/sec)	平均延迟 (ms)	最大延迟 (ms)	50% (ms)	95% (ms)	99% (ms)	99.9% (ms)
openebs	956022	9.12	4.26	161.00	3	9	23	31
ceph	862812	8.23	4.83	155.00	4	10	35	67

消息数：100w；每条消息大小：100byte

存储类型	每秒发送消息数 (records/sec)	发送速率 (MB/sec)	平均延迟 (ms)	最大延迟 (ms)	50% (ms)	95% (ms)	99% (ms)	99.9% (ms)
openebs	822368	78.43	3.31	171.00	3	6	19	37
ceph	915750	87.33	2.48	164.00	2	4	9	22

消息数：100w；每条消息大小：1kb

存储类型	每秒发送消息数 (records/sec)	发送速率 (MB/sec)	平均延迟 (ms)	最大延迟 (ms)	50% (ms)	95% (ms)	99% (ms)	99.9% (ms)
openebs	366703	358.11	74.59	161.00	71	115	126	142
ceph	250000	244.14	98.46	1481.00	71	115	1440	1476

消息数：100w；每条消息大小：2kb

存储类型	每秒发送消息数 (records/sec)	发送速率 (MB/sec)	平均延迟 (ms)	最大延迟 (ms)	50% (ms)	95% (ms)	99% (ms)	99.9% (ms)
openebs	225479	440.39	59.57	170.00	59	83	97	112
ceph	140904	275.20	96.59	1274.00	12	439	1111	1269

消息数：100w；每条消息大小：4kb

存储类型	每秒发送消息数 (records/sec)	发送速率 (MB/sec)	平均延迟 (ms)	最大延迟 (ms)	50% (ms)	95% (ms)	99% (ms)	99.9% (ms)
openebs	125062	488.53	47.45	181.00	46	73	99	115
ceph	92276	360.45	64.75	1411.00	6	226	1023	1397

消息数：100w；每条消息大小：8kb

存储类型	每秒发送消息数 (records/sec)	发送速率 (MB/sec)	平均延迟 (ms)	最大延迟 (ms)	50% (ms)	95% (ms)	99% (ms)	99.9% (ms)
openebs	62309	486.79	32.40	218.00	23	131	154	206
ceph	32344	252.69	62.84	4519.00	6	138	1702	4512

消费者测试

消费者参数均为：线程数：10；每次拉取消息大小：1mb

每条消息大小：10byte

存储类型	消息总大小(MB) data.consumed.in.MB	每秒传输数据大小(MB) MB.sec	每秒消费消息数 nMsg.sec	均衡耗时(ms) rebalance.time.ms	拉取耗时(ms) fetch.time.ms	每秒拉取数据(MB) fetch.MB.sec	每秒拉取消息数 fetch.nMsg.sec
openebs	9.5367	2.6308	275862.0690	3012	613	15.5575	1631321.3703
ceph	9.5367	2.6200	274725.2747	3013	627	15.2101	1594896.3317

存储类型

消息总大小(MB)

data.consumed.in.MB

每秒传输数据大小(MB)

MB.sec

每秒消费消息数

nMsg.sec

均衡耗时(ms)

rebalance.time.ms

拉取耗时(ms)

fetch.time.ms

每秒拉取数据(MB)

fetch.MB.sec

每秒拉取消息数

fetch.nMsg.sec

openebs

9.5367

2.6308

275862.0690

3012

613

15.5575

1631321.3703

ceph

9.5367

2.6200

274725.2747

3013

627

15.2101

1594896.3317

每条消息大小：100byte

存储类型	消息总大小(MB) data.consumed.in.MB	每秒传输数据大小(MB) MB.sec	每秒消费消息数 nMsg.sec	均衡耗时(ms) rebalance.time.ms	拉取耗时(ms) fetch.time.ms	每秒拉取数据(MB) fetch.MB.sec	每秒拉取消息数 fetch.nMsg.sec
openebs	95.3674	25.4993	267379.6791	3010	730	130.6403	1369863.0137
ceph	95.3674	25.5130	267522.7394	3012	726	131.3601	1377410.4683

存储类型

消息总大小(MB)

data.consumed.in.MB

每秒传输数据大小(MB)

MB.sec

每秒消费消息数

nMsg.sec

均衡耗时(ms)

rebalance.time.ms

拉取耗时(ms)

fetch.time.ms

每秒拉取数据(MB)

fetch.MB.sec

每秒拉取消息数

fetch.nMsg.sec

openebs

95.3674

25.4993

267379.6791

3010

730

130.6403

1369863.0137

ceph

95.3674

25.5130

267522.7394

3012

726

131.3601

1377410.4683

每条消息大小：1kb

存储类型	消息总大小(MB) data.consumed.in.MB	每秒传输数据大小(MB) MB.sec	每秒消费消息数 nMsg.sec	均衡耗时(ms) rebalance.time.ms	拉取耗时(ms) fetch.time.ms	每秒拉取数据(MB) fetch.MB.sec	每秒拉取消息数 fetch.nMsg.sec
openebs	976.5625	197.2057	201938.6107	3010	1942	502.8643	514933.0587
ceph	976.5625	185.8703	190331.1762	3010	2244	435.1883	445632.7986

存储类型

消息总大小(MB)

data.consumed.in.MB

每秒传输数据大小(MB)

MB.sec

每秒消费消息数

nMsg.sec

均衡耗时(ms)

rebalance.time.ms

拉取耗时(ms)

fetch.time.ms

每秒拉取数据(MB)

fetch.MB.sec

每秒拉取消息数

fetch.nMsg.sec

openebs

976.5625

197.2057

201938.6107

3010

1942

502.8643

514933.0587

ceph

976.5625

185.8703

190331.1762

3010

2244

435.1883

445632.7986

每条消息大小：2kb

存储类型	消息总大小(MB) data.consumed.in.MB	每秒传输数据大小(MB) MB.sec	每秒消费消息数 nMsg.sec	均衡耗时(ms) rebalance.time.ms	拉取耗时(ms) fetch.time.ms	每秒拉取数据(MB) fetch.MB.sec	每秒拉取消息数 fetch.nMsg.sec
openebs	1953.1250	326.8281	167336.0107	3009	2967	658.2828	337040.7819
ceph	1953.1250	315.8863	161733.7862	3010	3173	615.5452	315159.1554

存储类型

消息总大小(MB)

data.consumed.in.MB

每秒传输数据大小(MB)

MB.sec

每秒消费消息数

nMsg.sec

均衡耗时(ms)

rebalance.time.ms

拉取耗时(ms)

fetch.time.ms

每秒拉取数据(MB)

fetch.MB.sec

每秒拉取消息数

fetch.nMsg.sec

openebs

1953.1250

326.8281

167336.0107

3009

2967

658.2828

337040.7819

ceph

1953.1250

315.8863

161733.7862

3010

3173

615.5452

315159.1554

每条消息大小：4kb

存储类型	消息总大小(MB) data.consumed.in.MB	每秒传输数据大小(MB) MB.sec	每秒消费消息数 nMsg.sec	均衡耗时(ms) rebalance.time.ms	拉取耗时(ms) fetch.time.ms	每秒拉取数据(MB) fetch.MB.sec	每秒拉取消息数 fetch.nMsg.sec
openebs	3906.2500	467.0313	119560.0191	3010	5354	729.5947	186776.2421
ceph	3906.2500	469.8965	120293.5162	3011	5302	736.7503	188608.0724

存储类型

消息总大小(MB)

data.consumed.in.MB

每秒传输数据大小(MB)

MB.sec

每秒消费消息数

nMsg.sec

均衡耗时(ms)

rebalance.time.ms

拉取耗时(ms)

fetch.time.ms

每秒拉取数据(MB)

fetch.MB.sec

每秒拉取消息数

fetch.nMsg.sec

openebs

3906.2500

467.0313

119560.0191

3010

5354

729.5947

186776.2421

ceph

3906.2500

469.8965

120293.5162

3011

5302

736.7503

188608.0724

每条消息大小：8kb

存储类型	消息总大小(MB) data.consumed.in.MB	每秒传输数据大小(MB) MB.sec	每秒消费消息数 nMsg.sec	均衡耗时(ms) rebalance.time.ms	拉取耗时(ms) fetch.time.ms	每秒拉取数据(MB) fetch.MB.sec	每秒拉取消息数 fetch.nMsg.sec
openebs	7812.5000	587.2735	75171.0141	3011	10292	759.0847	97162.8449
ceph	7812.5000	517.3498	66220.7801	3011	12090	646.1952	82712.9859

存储类型

消息总大小(MB)

data.consumed.in.MB

每秒传输数据大小(MB)

MB.sec

每秒消费消息数

nMsg.sec

均衡耗时(ms)

rebalance.time.ms

拉取耗时(ms)

fetch.time.ms

每秒拉取数据(MB)

fetch.MB.sec

每秒拉取消息数

fetch.nMsg.sec

openebs

7812.5000

587.2735

75171.0141

3011

10292

759.0847

97162.8449

ceph

7812.5000

517.3498

66220.7801

3011

12090

646.1952

82712.9859

K8S/Kubernetes

K8S/Kubernetes社区为您提供最前沿的新闻资讯和知识内容

更多推荐

【深度】阿里巴巴万级规模 K8s 集群全局高可用体系之美

作者 | 韩堂、柘远、沉醉来源 | 阿里巴巴云原生公众号前言台湾作家林清玄在接受记者采访的时候，如此评价自己 30 多年写作生涯：“第一个十年我才华横溢，‘贼光闪现’，令周边黯然失色；第二个十年，我终于‘宝光现形’，不再去抢风头，反而与身边的美丽相得益彰；进入第三个十年，繁华落尽见真醇，我进入了‘醇光初现’的阶段，真正体味到了境界之美”。长夜有穷，真水无香。领略过了 K8s“身在江

K8S/Kubernetes

如何基于 K8s 构建下一代 DevOps 平台？

作者 | 孙健波（天元）导读：当前云原生 DevOps 体系现状如何？面临哪些挑战？如何通过 OAM 解决云原生 DevOps 场景下的诸多问题？云原生开发应用模型 OAM(Open Application Model) 社区核心成员孙健波将为大家一一解答，并分享如何基于 OAM 和 Kubernetes 打造无限能力的下一代 DevOps 平台。什么是 DevOps？为什么基于 Kub