文章目录
1. Zookeeper 入门
1.1 概述
1.2 特点
1.3 数据结构
1.4 应用场景
2. Zookeeper 安装
2.1 下载地址
2.2 本地模式安装部署
2.3 分布式安装部署
2.4 配置参数解读
3. Zookeeper 内部原理
3.1 选举机制
3.2 节点类型
3.3 Stat 结构体
3.4 监听器原理
3.5 写数据流程
4. Zookeeper 实战
4.1 客户端命令行操作
4.2 API 操作
4.3.1 IDEA 环境搭建
4.3.2 创建 ZooKeeper 客户端
4.3.3 创建子节点
4.3.4 获取子节点并监听节点变化
4.3.5 判断 Znode 是否存在
4.3 监听服务器节点动态上下线案例
1. Zookeeper 入门
1.1 概述
Zookeeper 是一个开源的分布式的,为分布式应用提供协调服务的 Apache 项目。
Zookeeper 从设计模式角度来理解:是一个基于观案者模式设计的分布式服务管理框架,它负责存储和管理大家都关心的数据,然后接受观察者的注册,一旦这些数据的状态发生变化,Zookeeper 就将负责通知已经在 Zookeeper 上注册的那些观察者做出相应的反应。
1.2 特点
Zookeeper:一个领导者(Leader) ,多个跟随者(Follower)组成的集群。
集群中只要有半数以上节点存活,Zookeeper 集群就能正常服务。
全局数据一致:每个 Server 保存一份相同的数据副本,Client 无论连接到哪个 Server,数据都是一致的。
更新请求顺序进行,来自同一个 Client 的更新请求按其发送顺序依次执行。
数据更新原子性,一次数据更新要么成功,要么失败。
实时性,在一定时间范围内,Client 能读到最新数据。
1.3 数据结构
ZooKeeper 数据模型的结构与 Unix 文件系统很类似,整体上可以看作是一棵树,每个节点称做一个 ZNode。每一个 ZNode 默认能够存储 1 MB 的数据,每个 ZNode 都可以通过其路径唯一标识。
1.4 应用场景
提供的服务包括:统一命名服务、统一配置管理、统一集群管理、服务器节点动态上下线、软负载均衡等。
统一命名服务
在分布式环境下,经常需要对应用/服务进行统一命名 ,便于识别。例如:IP 不容易记住,而域名容易记住。
统一配置管理
(1)分布式环境下,配置文件同步非常常见。
① 一般要求一个集群中,所有节点的配置信息是一致的,比如 Kafka 集群。 ② 对配置文件修改后,希望能够快速同步到各个节点上。
(2)配置管理可交由 ZooKeeper 实现。
① 可将配置信息写入 ZooKeeper 上的一个 Znode 。 ② 各个客户端服务器监听这个 Znode。 ③ 一旦 Znode 中的数据被修改,ZooKeeper 将通知各个客户端服务器。
统一集群管理
(1)分布式环境中,实时掌握每个节点的状态是必要的。
可根据节点实时状态做出一些调整。
(2)ZooKeeper 可以实现实时监控节点状态变化
① 可将节点信息写入Z ooKeeper 上的一个 ZNode。 ② 监听这个 ZNode 可获取它的实时状态变化。
服务器动态上下线
软负载均衡
在 Zookeeper 中记录每台服务器的访问数,让访问数最少的服务器去处理最新的客户端请求。
2. Zookeeper 安装
2.1 下载地址
zookeeper 官网
2.2 本地模式安装部署
准备工作
① 拷贝 Zookeeper 安装包到 Linux 系统下(apache-zookeeper-3.5.6-bin.tar.gz) ② 解压到指定目录
tar -zxvf apache-zookeeper-3.5.6-bin.tar.gz -C /hadoop/
③ 重命名
mv apache-zookeeper-3.5.6-bin/ zookeeper-3.5.6
修改配置
① 将 /hadoop/zookeeper-3.5.6/conf 这个路径下的 zoo_sample.cfg 修改为 zoo.cfg
mv zoo_sample.cfg zoo.cfg
② 打开 zoo.cfg 文件,修改 dataDir 路径
dataDir=/hadoop/zookeeper-3.5.6/zkData
③ 在 /hadoop/zookeeper-3.5.6/ 这个目录上创建 zkData 文件夹
mkdir zkData
修改环境变量
① 打开配置文件
vim /etc/profile
② 在配置文件中添加以下内容
#ZOOKEEPER
export ZOOKEEPER_HOME=/hadoop/zookeeper-3.5.6
export PATH=$PATH:$ZOOKEEPER_HOME/bin
③ 使配置文件生效
source /etc/profile
操作 Zookeeper
① 启动 Zookeeper
zkServer.sh start
② 查看进程是否启动
jps
③ 查看状态
zkServer.sh status
④ 启动客户端
zkCli.sh
⑤ 退出客户端
quit
⑥ 停止 Zookeeper
zkServer.sh stop
2.3 分布式安装部署
集群规划
在 master、slave1 和 slave2 三个节点上部署 Zookeeper。
解压安装
① 解压 Zookeeper 安装包到 /hadoop/ 目录下
tar -zxvf apache-zookeeper-3.5.6-bin.tar.gz -C /hadoop/
③ 重命名
mv apache-zookeeper-3.5.6-bin/ zookeeper-3.5.6
③ 同步 /hadoop/zookeeper-3.5.6 目录内容到 slave1、slave2
xsync zookeeper-3.5.6/
配置服务器编号
① 在 /hadoop/zookeeper-3.5.6/ 这个目录下创建 zkData
mkdir zkData
② /hadoop/zookeeper-3.5.6/zkData 目录下创建一个 myid 的文件
touch myid
③ 编辑 myid 文件
vim myid
在文件中添加与 server 对应的编号:
0
④ 分发到其他机器上
xsync myid
并分别在 slave1、slave2 上修改 myid 文件中内容为 1、2
配置 zoo.cfg 文件
① 将 /hadoop/zookeeper-3.5.6/conf 这个路径下的 zoo_sample.cfg 修改为 zoo.cfg
mv zoo_sample.cfg zoo.cfg
② 打开 zoo.cfg 文件,修改 dataDir 路径
dataDir=/hadoop/zookeeper-3.5.6/zkData
增加如下配置
server.0=master:2888:3888
server.1=slave1:2888:3888
server.2=slave2:2888:3888
③ 同步 zoo.cfg 配置文件
xsync zoo.cfg
修改环境变量
① 打开配置文件
vim /etc/profile
② 在配置文件中添加以下内容
#ZOOKEEPER
export ZOOKEEPER_HOME=/hadoop/zookeeper-3.5.6
export PATH=$PATH:$ZOOKEEPER_HOME/bin
③ 同步配置文件
xsync /etc/profile
④ 使配置文件生效(三台机器)
source /etc/profile
集群操作
① 三台机器分别启动 Zookeeper
zkServer.sh start
② 三台机器分别关闭 Zookeeper
zkServer.sh stop
编写 Zookeeper 的群起群关脚本
① 在 /usr/local/bin 目录下创建 zk 文件
vim zk
在文件中输入以下内容:
#!/bin/bash
case $1 in
"start"){
for i in master slave1 slave2
do
echo "****************** $i *********************"
ssh $i "source /etc/profile && zkServer.sh start"
done
};;
"stop"){
for i in master slave1 slave2
do
echo "****************** $i *********************"
ssh $i "source /etc/profile && zkServer.sh stop"
done
};;
esac
② 修改脚本 zk 具有执行权限
chmod 777 zk
③ 调用脚本形式:zk start 或 zk stop
2.4 配置参数解读
Zookeeper 中的配置文件 zoo.cfg 中参数含义解读如下:
tickTime =2000:通信心跳数,Zookeeper 服务器与客户端心跳时间,单位毫秒
Zookeeper 使用的基本时间,服务器之间或客户端与服务器之间维持心跳的时间间隔,也就是每个tickTime 时间就会发送一个心跳,时间单位为毫秒。它用于心跳机制,并且设置最小的 session 超时时间为两倍心跳时间。(session 的最小超时时间是 2*tickTime)
initLimit =10:LF 初始通信时限
集群中的 Follower 跟随者服务器与 Leader 领导者服务器之间初始连接时能容忍的最多心跳数(tickTime的数量),用它来限定集群中的 Zookeeper 服务器连接到 Leader 的时限。
syncLimit =5:LF 同步通信时限
集群中 Leader 与 Follower 之间的最大响应时间单位,假如响应超过 syncLimit * tickTime,Leader 认为 Follwer 死掉,从服务器列表中删除 Follwer。
dataDir:数据文件目录+数据持久化路径
主要用于保存 Zookeeper 中的数据。
clientPort =2181:客户端连接端口
监听客户端连接的端口。
server.A=B:C:D