zookeeper的集群模式下的安装和配置
1, 安装准备 1.1 下载http://mirror.bjtu.edu.cn/apache/zookeeper/zookeeper-3.3.3/zookeeper-3.3.3.tar.gz1.2 安装jdk : 我的是jdk-1.6.0_14-fcs1.3 系统: linux :centos-5.41.4 hadoop安装配置: 192.168.201.128 na
tickTime=2000
# The number of ticks that the initial
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between
# sending a request and getting an acknowledgement
syncLimit=5
# the port at which the clients will connect
clientPort=2181
# the directory where the snapshot is stored.
#dataDir=/export/crawlspace/mahadev/zookeeper/server1/data
dataDir=/usr/zookeeper-3.3.3/data
server.2=192.168.201.131:2888:3888
server.3=192.168.201.132:2888:3888
192.168.201.132 的为3
JMX enabled by default
Using config: /usr/zookeeper-3.3.3/bin/../conf/zoo.cfg
Mode: follower
Using config: /usr/zookeeper-3.3.3/bin/../conf/zoo.cfg
Mode: leader
[zk: 192.168.201.128(CONNECTED) 26] ls / #查看/目录下目录
[t, zookeeper]
[zk: 192.168.201.128(CONNECTED) 27] ls /t #查看/t目录下的内容
[]
[zk: 192.168.201.128(CONNECTED) 28] get /t #获取并查看/t目录写的数据
tdata
cZxid = 0x100000005
ctime = Sun Apr 22 17:58:05 CST 2012
mZxid = 0x100000005
mtime = Sun Apr 22 17:58:05 CST 2012
pZxid = 0x100000005
cversion = 0
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x136d781d8750002
dataLength = 5
numChildren = 0
[zk: 192.168.201.128(CONNECTED) 29]
测试:
$zkServer.sh start
会报FAILED TO WRITE PID的错误。查看进程发现zookeeper进程存在, 并可以正常使用。
这是zkServer.sh脚本的一个BUG,dataDir是zookeeper进程内部建立的,并且有一定延迟, 因此将zookeeper进程id写入到dataDir下的pidfile时,dataDir还没有建立好, 因此就出现了上述情况。
解决办法修改zkServer.sh脚本,等待dataDir目录创建完毕后再将pid写入。找到相应的语句块,替换为下面的语句,注意替换的范围
...
进行测试:
是zookeeper在说I’mOK,可以把namenode换成集群里其它的主机名测试是否组网成功
在每台机器上分别执行zkServer.shstart,启动后通过jps看java进程是否出现QuoRumPeerIn,出现后再通过zkServer.shstatus命令查看zookeeper的状态。然后echo ruok | nc namenode2181,看是否会输出imok
而且集群中的zookeeper需要每台机器都启动zookeeper,保证每台机器的3888端口都是开通的
zookeeper启动时的错误:貌似已经zookeeper已经启动了,但是没有办法查看状态,查看日志发现没有创建logs文件夹,如下
如果$ZK_INSTALL下不存在logs目录,也会报错。所以需要手动创建logs文件夹。
报错异常信息如下:
- 2012-02-26
00:06:47,364 [myid:] - INFO [main:QuorumPeerConfig@101] - Reading configuration from: ../conf/zoo3.cfg - 2012-02-26
00:06:47,372 [myid:] - ERROR [main:QuorumPeerMain@85] - Invalid config, exiting abnormally - org.apache.zookeeper.server.quorum.QuorumPeerConfig$ConfigException:
Error processing ../conf/zoo3.cfg -
at org.apache.zookeeper.server.quorum.QuorumPeerConfig.parse(QuorumPeerConfig.java:121) -
at org.apache.zookeeper.server.quorum.QuorumPeerMain.initializeAndRun(QuorumPeerMain.java:101) -
at org.apache.zookeeper.server.quorum.QuorumPeerMain.main(QuorumPeerMain.java:78) - Caused
by: [color=red]java.lang.IllegalArgumentException : dataLogDir /usr/local/zookeeper-3.4.3/logs is missing.[/color] -
at org.apache.zookeeper.server.quorum.QuorumPeerConfig.parseProperties(QuorumPeerConfig.java:247) -
at org.apache.zookeeper.server.quorum.QuorumPeerConfig.parse(QuorumPeerConfig.java:117) -
... 2 more - Invalid
config, exiting abnormally
在linux下直接执行java命令,发现输出如下:
- [hadoop@hadoop-master
bin]$ java - Usage:
gij [OPTION] ... CLASS [ARGS] ... -
to invoke CLASS.main, or -
gij -jar [OPTION] ... JARFILE [ARGS] ... -
to execute a jar file - Try
`gij --help' for more information.
- $JAVA_HOME/bin/java
"-Dzookeeper.log.dir=${ZOO_LOG_DIR}" "-Dzookeeper.root.logger=${ZOO_LOG4J_PROP}" \ -
-cp "$CLASSPATH" $JVMFLAGS $ZOOMAIN "$ZOOCFG" &
这样修改之后,就能正常运行了。
错误3:
启动正常没报错,但zkServer.shstatus查看状态的时候却出现错误,如下:
Using config: /hadoop/zookeeper/bin/../conf/zoo.cfg
Error contacting service. It is probably notrunning.
jps查看进程,却发现进程已启动
7313
原以为是配置文件有问题,各种调式,尝试各种模式都不起作用!最后发现是nc版本的问题,
导致zkServer.shstatus出错……各种无语!
解决方法:
打开zkServer.sh
找到
status)
在nc与localhost之间加上 -q1
如果已存在则去掉
Zookeeper的安装和配置十分简单, 既可以配置成单机模式, 也可以配置成集群模式. 下面将分别进行介绍.
单机模式
点击这里下载zookeeper的安装包之后, 解压到合适目录. 进入zookeeper目录下的conf子目录, 创建zoo.cfg:
- tickTime=2000
- dataDir=/Users/apple/zookeeper/data
- dataLogDir=/Users/apple/zookeeper/logs
- clientPort=4180
参数说明:
- tickTime: zookeeper中使用的基本时间单位, 毫秒值.
- dataDir: 数据目录. 可以是任意目录.
- dataLogDir: log目录, 同样可以是任意目录. 如果没有设置该参数, 将使用和dataDir相同的设置.
- clientPort: 监听client连接的端口号.
至此, zookeeper的单机模式已经配置好了. 启动server只需运行脚本:
- bin/zkServer.sh start
- bin/zkCli.sh -server localhost:4180
伪集群模式
所谓伪集群, 是指在单台机器中启动多个zookeeper进程, 并组成一个集群. 以启动3个zookeeper进程为例.
将zookeeper的目录拷贝2份:
- |--zookeeper0
- |--zookeeper1
- |--zookeeper2
更改zookeeper0/conf/zoo.cfg文件为:
- tickTime=2000
- initLimit=5
- syncLimit=2
- dataDir=/Users/apple/zookeeper0/data
- dataLogDir=/Users/apple/zookeeper0/logs
- clientPort=4180
- server.0=127.0.0.1:8880:7770
- server.1=127.0.0.1:8881:7771
- server.2=127.0.0.1:8882:7772
新增了几个参数, 其含义如下:
- initLimit: zookeeper集群中的包含多台server, 其中一台为leader, 集群中其余的server为follower. initLimit参数配置初始化连接时, follower和leader之间的最长心跳时间. 此时该参数设置为5, 说明时间限制为5倍tickTime, 即5*2000=10000ms=10s.
- syncLimit: 该参数配置leader和follower之间发送消息, 请求和应答的最大时间长度. 此时该参数设置为2, 说明时间限制为2倍tickTime, 即4000ms.
- server.X=A:B:C 其中X是一个数字, 表示这是第几号server. A是该server所在的IP地址. B配置该server和集群中的leader交换消息所使用的端口. C配置选举leader时所使用的端口. 由于配置的是伪集群模式, 所以各个server的B, C参数必须不同.
参照zookeeper0/conf/zoo.cfg, 配置zookeeper1/conf/zoo.cfg, 和zookeeper2/conf/zoo.cfg文件. 只需更改dataDir, dataLogDir, clientPort参数即可.
在之前设置的dataDir中新建myid文件, 写入一个数字, 该数字表示这是第几号server. 该数字必须和zoo.cfg文件中的server.X中的X一一对应.
/Users/apple/zookeeper0/data/myid文件中写入0, /Users/apple/zookeeper1/data/myid文件中写入1, /Users/apple/zookeeper2/data/myid文件中写入2.
分别进入/Users/apple/zookeeper0/bin, /Users/apple/zookeeper1/bin, /Users/apple/zookeeper2/bin三个目录, 启动server.
任意选择一个server目录, 启动客户端:
- bin/zkCli.sh -server localhost:4180
集群模式
集群模式的配置和伪集群基本一致.
由于集群模式下, 各server部署在不同的机器上, 因此各server的conf/zoo.cfg文件可以完全一样.
下面是一个示例:
- tickTime=2000
- initLimit=5
- syncLimit=2
- dataDir=/home/zookeeper/data
- dataLogDir=/home/zookeeper/logs
- clientPort=4180
- server.43=10.1.39.43:2888:3888
- server.47=10.1.39.47:2888:3888
- server.48=10.1.39.48:2888:3888
示例中部署了3台zookeeper server, 分别部署在10.1.39.43, 10.1.39.47, 10.1.39.48上. 需要注意的是, 各server的dataDir目录下的myid文件中的数字必须不同.
10.1.39.43 server的myid为43, 10.1.39.47 server的myid为47, 10.1.39.48 server的myid为48.
更多推荐
所有评论(0)