Spark实例学习(二)sparkHA搭建

目录HA搭建下载zookeeperHA配置UI查看HA搭建下载zookeeperHadoop实例学习(十一)ZooKeeper安装HA配置修改spark-env.sh配置将下图之前配置好的的主节点信息注释并加上export SPARK_DAEMON_JAVA_OPTS="-Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.u

阳光里哭泣的狗

3528人浏览 · 2021-01-17 21:26:59

阳光里哭泣的狗 · 2021-01-17 21:26:59 发布

HA搭建

下载zookeeper

Hadoop实例学习(十一)ZooKeeper安装

HA配置

修改spark-env.sh配置
将下图之前配置好的的主节点信息注释
在这里插入图片描述
并加上

export SPARK_DAEMON_JAVA_OPTS="-Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.url=spark01:2181,spark02:2181,spark03:2181 -Dspark.deploy.zookeeper.dir=/spark"

在这里插入图片描述
将修改好的文件分发给另外两台虚拟机

[root@spark01 spark-3.0.0-bin-hadoop3.2]# scp -r conf/ root@spark02:/usr/spark/spark-3.0.0-bin-hadoop3.2/
[root@spark01 spark-3.0.0-bin-hadoop3.2]# scp -r conf/ root@spark03:/usr/spark/spark-3.0.0-bin-hadoop3.2/

三台虚拟机启动zookeeper

zkServer.sh start

在这里插入图片描述
启动spark集群start-all-spark.sh

在spark02上再启动start-master.sh

UI查看

访问UI界面进行查看
在这里插入图片描述

在这里插入图片描述

向您推荐>>Eolink开发者社区

权威｜前沿｜技术｜干货｜国内首个API全生命周期开发者社区

更多推荐

深入理解 Mocha 测试框架：从零实现一个 Mocha

前言什么是自动化测试自动化测试在很多团队中都是Devops环节中很难执行起来的一个环节，主要原因在于测试代码的编写工作很难抽象，99%的场景都需要和业务强绑定，而且写测试代码的编写工作量往往比编写实际业务代码的工作量更多。在一些很多业务场景中投入产出比很低，适合写自动化测试的应该是那些中长期业务以及一些诸如组件一样的基础库。自动化测试是个比较大的概念，其中分类也比较多，比如单元测试，端对端测试，集

云原生

ELK实现containerd的容器日志采集展示【基于logging的全栈监测】

企业级ELK Stack构建介绍

云原生

(20200916 Solved)docker-compose up创建容器自动退出

问题描述如题，创建容器后自动退出了。并且docker start container无效解决方案原因是缺失了控制终端的配置，需要在docker-compose.yml中增加tty:true ，有时候这样也不行，需要再增加一个command:/bin/bash，命令不一定是这个，需要是一个不会退出的命令，然后用-d后台启动容器。Referencesdocker-compose启动容器后自动退出...