Zookeeper 搭建运行环境

Question

单机模式

1. 官网下载
2. 上传
3. 解压 tar -zxvf xxx
4. 修改 conf mv zoo_sample.cfg zoo.cfg
5. 启动服务端

PWD:bin pwd$ zkServer.sh 
ZooKeeper JMX enabled by default
Using config: /Users/pwd/Library/Developer/zookeeper/zookeeper/bin/../conf/zoo.cfg
Usage: /Users/pwd/Library/Developer/zookeeper/zookeeper/bin/zkServer.sh {start|start-foreground|stop|restart|status|upgrade|print-cmd}

PWD:bin pwd$ zkServer.sh start
ZooKeeper JMX enabled by default
Using config: /Users/pwd/Library/Developer/zookeeper/zookeeper/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED

PWD:bin pwd$ zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /Users/pwd/Library/Developer/zookeeper/zookeeper/bin/../conf/zoo.cfg
Mode: standalone

PWD:bin pwd$ zkServer.sh status |jps
ZooKeeper JMX enabled by default
Using config: /Users/pwd/Library/Developer/zookeeper/zookeeper/bin/../conf/zoo.cfg
21668 RegistryApplication
59765 QuorumPeerMain
728 
59867 Jps

1. 验证 zkServer.sh status | jps
2. 连接 zkCli.sh 或者 zkCli.sh -server ip:port

集群模式

伪集群

mkdir -p cluster/node-2182 cluster/node-2182/data cluster/node-2182/log 
mkdir -p cluster/node-2183 cluster/node-2183/data cluster/node-2183/log
mkdir -p cluster/node-2184 cluster/node-2184/data cluster/node-2184/log

touch cluster/node-2182/zoo.cfg
touch cluster/node-2183/zoo.cfg
touch cluster/node-2184/zoo.cfg

node-2182/zoo.cfg

# The number of milliseconds of each tick
tickTime=2000
# The number of ticks that the initial 
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between 
# sending a request and getting an acknowledgement
syncLimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just 
# example sakes.
dataDir=/Users/pwd/Library/Developer/zookeeper/cluster/node-2182/data
dataLogDir=/Users/pwd/Library/Developer/zookeeper/cluster/node-2182/log
# the port at which the clients will connect
clientPort=2182
# the maximum number of client connections.
# increase this if you need to handle more clients
#maxClientCnxns=60
#
# Be sure to read the maintenance section of the 
# administrator guide before turning on autopurge.
#
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
#
# The number of snapshots to retain in dataDir
#autopurge.snapRetainCount=3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
#autopurge.purgeInterval=1
server.1=localhost:21811:21821 
server.2=localhost:21812:21822
server.3=localhost:21813:21823

node-2183/zoo.cfg

# The number of milliseconds of each tick
tickTime=2000
# The number of ticks that the initial 
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between 
# sending a request and getting an acknowledgement
syncLimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just 
# example sakes.
dataDir=/Users/pwd/Library/Developer/zookeeper/cluster/node-2183/data
dataLogDir=/Users/pwd/Library/Developer/zookeeper/cluster/node-2183/log
# the port at which the clients will connect
clientPort=2183
# the maximum number of client connections.
# increase this if you need to handle more clients
#maxClientCnxns=60
#
# Be sure to read the maintenance section of the 
# administrator guide before turning on autopurge.
#
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
#
# The number of snapshots to retain in dataDir
#autopurge.snapRetainCount=3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
#autopurge.purgeInterval=1
server.1=localhost:21811:21821 
server.2=localhost:21812:21822
server.3=localhost:21813:21823

node-2184/zoo.cfg

# The number of milliseconds of each tick
tickTime=2000
# The number of ticks that the initial 
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between 
# sending a request and getting an acknowledgement
syncLimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just 
# example sakes.
dataDir=/Users/pwd/Library/Developer/zookeeper/cluster/node-2184/data
dataLogDir=/Users/pwd/Library/Developer/zookeeper/cluster/node-2184/log
# the port at which the clients will connect
clientPort=2184
# the maximum number of client connections.
# increase this if you need to handle more clients
#maxClientCnxns=60
#
# Be sure to read the maintenance section of the 
# administrator guide before turning on autopurge.
#
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
#
# The number of snapshots to retain in dataDir
#autopurge.snapRetainCount=3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
#autopurge.purgeInterval=1
server.1=localhost:21811:21821 
server.2=localhost:21812:21822
server.3=localhost:21813:21823

# myid中的服务号和各个配置文件中的服务号保持一致
echo "1" > node-2182/data/myid
echo "2" > node-2183/data/myid
echo "3" > node-2184/data/myid

zkServer.sh start node-2182/zoo.cfg
zkServer.sh start node-2183/zoo.cfg
zkServer.sh start node-2184/zoo.cfg

验证

zkCli.sh -server localhost:2182,localhost:2183,localhost:2184

常用配置参数

• clientPort：用于配置当前服务器对客户端暴露的端口，一般配置为 2181,无默认值。这是一个 TCP port。
• dataDir：dataDir 里放的是内存数据结构的snapshot，便于快速恢复，无默认值。
• dataLogDir：dataLogDir 如果没提供的话使用的则是dataDir。zookeeper 的持久化都存储在这两个目录里。dataLogDir 里是放到的顺序日志(WAL)。为了达到性能最大化，一般建议把 dataDir 和 dataLogDir 分到不同的磁盘上，这样就可以充分利用磁盘顺序写的特性。
• server.1=localhost:21811:21821：配置中有两个 TCP port。后面一个是用于 Zookeeper 选举用的，而前一个是 Leader 和 Follower 或 Observer 交换数据使用的。我们还注意到server.后面的数字。这个就是 myid
• tickTime=2000：这就表示在 zookeeper 里1 tick表示1000 ms，所有其他用到时间的地方都会用多少 tick 来表示
• initLimit：用于配置 leader 服务器等待Follewer服务器启动，并完成数据同步的时间，默认为 10，表示 10*tickTime
• syncLimit=5：用于配置 leader 服务器和Follewer服务器之间进行心跳检测的最大延时时间，默认为 5，表示 5*tickTime
• maxClientCnxns=60：从 socket 层面限制单个客户端和单台服务器之间的最大并发连接数，即以IP地址粒度来进行连接数的限制，如果为0，表示不作限制，默认为60
• clientPortAddress：针对多网卡的机器，该参数允许为每个IP地址指定不同的监听端口
• server.id=host:port:port：用于配置组成zookeeper集群的机器列表，其中id为serverId,与myid文件中的值对应。第一个端口用于指定Leader服务器和Follewer服务器进行运行时通信和数据同步所使用的端口，第二个端口用于进行Leader选举过程中的投票通信
• minSessionTimeout 和 maxSessionTimeout：客户端连接zookeeper的时候，都会设置一个session timeout，如果超过这个时间client没有与zookeeper server有联系，则这个 session 会被设置为过期(如果这个session上有临时节点，则会被全部删除，这就是实现集群感知的基础)。但是这个时间不是客户端可以无限制设置的，服务器可以设置这两个参数来限制客户端,设置的范围其默认为分别为2 和 20，时间表示为2tickTime~20tickTime。
• autopurge.snapRetainCount 和 autopurge.purgeInterval：客户端在与zookeeper交互过程中会产生非常多的日志，而且zookeeper也会将内存中的数据作为snapshot保存下来，这些数据是不会被自动删除的，这样磁盘中这样的数据就会越来越多。不过可以通过这两个参数来设置，让zookeeper自动删除数据。autopurge.purgeInterval就是设置多少小时清理一次。而autopurge.snapRetainCount是设置保留多少个snapshot，之前的则删除。不过如果你的集群是一个非常繁忙的集群，然后又碰上这个删除操作，可能会影响zookeeper集群的性能，所以一般会让这个过程在访问低谷的时候进行，但是遗憾的是zookeeper并没有设置在哪个时间点运行的设置，所以有的时候我们会禁用这个自动删除的功能，而在服务器上配置一个cron，然后在凌晨来干这件事,默认为3，切自定义值小于3也会取值3。
• myid：在dataDir里会放置一个myid文件，里面就一个数字，用来唯一标识这个服务。这个id是很重要的，一定要保证整个集群中唯一。zookeeper会根据这个id来取出server.x上的配置。比如当前id为1，则对应着zoo.cfg里的server.1的配置。而且在leader选举的时候，这个id的大小也是有意义的。

仅支持系统属性方式配置的参数

• snapCount：用于配置相邻两次数据快照之间的事务操作次数，即 zookeeper 会在 snapCount 次事务之后进行一次数据快照，默认为 100000
• preAllocSize：用于配置 zookeeper 事务日志文件预分配的磁盘空间大小,默认为 65536，单位 KB，即 64MB，与 snapCount 同时修改，如将 snapCount 设置为 500，每次事务操作的数据量最多为 1KB，则 preAllocSize 设置为 500 即可
• forceSync：用于配置 zookeeper 是否在事务提交的时候，将日志写入操作强制刷入磁盘，默认为 yes，表示强制刷盘
• skipAcl：用于配置 zookeeper 是否跳过 ACL 权限检查，默认为 mo，即会对每一个客户端请求进行权限检查