zookerpeer

1.       Zookeeper：攘其外必先安其内。攘其外：是指zookeeper对外提供了分布式协调服务（例如datanode集群中，协调的意思是指哪个是主哪个是备）。安其内是指对内（也就是他自己）是高可用。对外提供高可用的前提是对内高可用。

2.       Server.1=192.168.9.11:2888:3888，server.2=192.168.9.12:2888:3888，server.3=192.168.9.13:2888:3888。Server.1,server.2,server.3中的数字表示myid。其中2888端口是攘其外的时候用的，对外给出主服务器。3888端口是安其内用的，对zookeeper自己选择主服务器用的。2181是客户端连接zookeeper集群用的端口号。而前面这个myid说明此myid对应的服务器是zookeeper集群中的服务器。

3.       在配置的时候有一个myid，里面写1,2,3等等。他的作用是决定谁是leader主服务器，还有一个作用就是他也是事物id。这里myid=3的最大，因此myid=3是主服务器。例如：先启动前两个服务器（这前两个先启动哪个都行），启动zookeeper的命令是：zkServer.sh start，此时会选举出myid=2的服务器作为leader主节点。之后在启动第三台服务器，由于集群中已经有了leader，因此即使myis=3启动了，他仍然是Follower从节点

4.       Sessionid：客户端向zookeeper集群中的某server节点创建连接的时候需要获得一个sessionid。在client和server通信之前, 首先需要建立连接, 该连接称为session。如果该server出了问题，在sessionid没有失效的时候可以自动的连接其他的server节点，这就是因为session的一致性。

 

5.       Session的一致性：假如客户端连接zookeeper集群中server1节点，向server1发出增删改的操作，由于server1是Follower节点，不具备增删改的操作只具备查询操作，因此server1节点会把增删改的操作转给leader主节点，由leader处理完之后在返回给server1节点,server1节点在返回给客户端。leader在创建seesionid的时候，leader会给每个follower节点的消息队列中都传送sessinid，通知zookeeper集群内的所有follower节点，问他们是否同意。当过半的follower同意之后，才能创建此sessionid（过半原则），当leader创建好session之后，不仅给server1，而是给每个follower节点都发一份此sessionid。这样的最终结果就是所有的follower节点跟leader节点的数据都一样（注意：leader有增删改查的功能，而follower只有查询的功能）。

6.       客户端的概念：在图中我们可以看到zookeeper集群外，需要连接一个zookeeper的客户端，也就是说外界如果想用zookeeper服务，就要先连接这个zookeeper客户端，因此在外界看来这里的client客户端就是zookeeper服务（即：以zookeeper集群的角度来说client是客户端，但是以外界来说client就是zookeeper的服务的入口）。

7.       Znode是zookeeper中的目录节点，分为两种，一种是短暂的，一种是持久的。后面能跟序列号，目的是保证即使文件名称一样也不会重名，因为后面还跟着序列号呢。每个目录在zookeeper中叫做znode,并且其有一个唯一的路径标识。客户端应用可以在znode上设置监视器（Watcher）

8.       短暂的zonde节点：是由session 的生命周期决定的，当一个客户端连接集群中的一个server的时候，集群中的leader会给客户端一个sessionid。此时客户端有了sessionid之后，leader也会创建一个znode目录节点。当客户端与这个server节点断开连接了，过一段时间此sessionid就会超时，超时一定时间就会失效，失效之后sessionid就会被销毁（leader会销毁所有节点的该sessionid，做法是给所有follower节点发一个销毁的事物id），同时此znode短暂目录节点也会消失。这时候就类似于zkfc。

9.       Zkfc：集群中，当把其中一个zkfc进程杀死后，此zkfc和客户端就断开连接了，zkfc有两只手，一只手拉着zookeeper集群，另一只手拉着namenode。其中拉着zookeeper集群的这只手就是连接zookeeper的客户的代码（也就是说zookeeper集群是通过zookeeper客户端对外提供服务的，如果一个外部集群想用zookeeper进行高可用服务，那么肯定是需要一个zookeeper的客户端连接这个zookeeper集群的）。

10.   所以，zkfc进程启动之后，zkfc内部会有一个zookeeper集群的客户端（图中的client），这个客户端会和zookeeper集群中的某个server建立连接，建立连接之后就会产生sessionid（sessionid是zookeeper集群为客户端产生的，也就是leader创建的，他会返回给server1以及其他follower节点，并由server1返回给客户端，此时客户端就有了sessionid），产生sessionid的同时，在客户端还会创建一个znode目录结构（由zookeeper集群中的leader创建此目录结构，此目录结构在集群中，用于客户端1的sessionid与此目录结构的沟通，但是其他客户端也可以看到这个目录结构）。如果此时杀死了zkfc，zkfc中的客户端机会消失了，zkfc消失之后过一段时间，sessionid就会超时失效，sessionid失效之后zkfc曾经创建的这个节点也会跟着消失,也就是删除这个znode节点。Znode中记录了zxid（事物id）等信息。

11.   启动zookeeper客户端是zkCli.sh,可以启动多个。启动zookeeper服务是zkServer.sh

12.   Znode的目录结构有四种：持久的、短暂的、持久+序列化、短暂+序列化。

13.   我们可以在zookeeper中创建一个znode节点，里面有mzxid，czxid，ctime，pzxid等，zxid就是事物id。Czxid是一个线性增长的序列号。

14.   攘其外:zookeeper集群中使用消息队列，leader为每个follower提供一个消息队列，当客户端向任何一个的follower提交一个增删改查的操作，此follower会把此操作转发给leader，leader操作完成之后，leader会把此操作结果放到每个follower中的消息队列中（每个操作都带着事物zxid，这样就可以区分出版本来了），当follower把这个消息队列中的数据消费后就会给客户端返回操作成功，当过半（由于每个follower的网络传输速不一样）的follower返回操作成功，那么就认为客户端的此操作成功了。

15.   最终一致性：只要所有的follower中消息队列里的数据都消费完，此时攘其外的结果就保证了最终一致性。

16.   安其内：能够快速的选出leader主节点，当现在的leader挂掉了，这时是一个无主模式，此时会有一个或者多个follower会知道（这得看网络速度情况），follower中有两个对象，一个是自己的zxid事物id，另一个是自己的myid。在多个follower节点中，zxid可能一样，但是自己的myid肯定跟其他follower不一样。我们会根据zxid和myid选择出leader主节点，选择的办法是投票，投票还具有传递性，投票的结果是找到一个zxid最大的节点当做leader主节点，如果有多个follower节点都是事物最大，那么在比较myid，因为每个follower节点的myid都不一样，因此肯定能够选择出唯一的一个leader节点（其实就是在leader主节点挂掉之后，会在所有follower中会以投票的方式选举一个作为leader，选举出来的这个leader会是一个zxid最大且myid最大的那个follower）。

17.   虽然当leader挂掉之后，会很快选举出来一个新的leader，但是如果有成千上万台的集群就会很慢了，此时出现了observer，observer是观察者的意思，不参与投票，如果leader挂了，就在这些follower中选举一个作为leader，选举之后产生的新leader会把数据同步到所有的follower中和所有的observer中。因此1000台zookeeper集群中，可能有10台是follower，其他的都是observer，而选择的时候只有这10台follower参与，这样速度就快了。follower是跟随者的意思，leader是领导者的意思。

18.   Follower的作用：用于接收客户端的请求并向客户端返回结果，在选主过程中参与投票。

19.   Leader的作用：负责进行投票的发起和决议，更新系统的状态（例如follower中的增删改的操作都要转发给leader来进行操作，当leader操作完成之后，给集群中的所有follower节点用消息队列的形式发送zxid事物进行系统更新）

20.   Observer的作用：可以接受客户端连接，将写请求转发给leader，但是observer不参与投票过程，只同步leader的状态，observer的目的是为了扩展系统，提高读取速度

 

 

21.   客户端client的作用：第一：向zookeeper集群发送请求。第二：客户端注册监听它关心的目录节点（此目录节点都是zookeeper集群中的），当目录节点发生变化（数据改变、被删除、子目录节点增加删除）时，会调用回调函数（其实就是注册在zookeeper中的监听方法中有一行代码是执行回调函数的，当目录节点发生了变化就会被监听器监听到，随后执行监听的方法，在执行监听的方法的时候，里面有一行代码是定义一个回调函数，此时就会执行回调函数，回调函数是写在客户端client中的，回调函数也是个方法，此方法中会执行自己想干的时候）

22.   事件监听：Watcher监听器在 ZooKeeper 是一个核心功能，Watcher 可以监控目录节点的数据变化以及子目录的变化，一旦这些状态发生变化，服务器就会通知所有设置在这个目录节点上的Watcher，从而每个客户端都很快知道它所  关注的目录节点的状态发生变化，而做出相应的反应。客户端注册的监听方法只会被执行一次。

23.   比如，namenode1使用zkfc1连接着zookeeper集群，namenode2使用zkfc2连接着zookeeper集群。两个namenode都会使用zkfc（一只手连着zookeeper的客户端client呢）给zookeeper集群发送请求，假如zkfc1的请求比较快，那么leader节点就会为zkfc1在zookeeper集群中创建一个znode目录结构。然后两个zkfc都会通过一些方法（方法有exists,getChildren,getData。其实就是在监听目录是否存在、目录是否被改动等等）去监听这个目录结构，当znode目录机构发生变化之后，会调用zkfc中的回调函数（方法有create,delete,setData，回调函数在zkfc中，注册的监听方法在zookeeper中，因为需要使用接口），回调函数的出现，是由于zkfc先对znode目录节点有了监听的方法，监听到目录改变之后就会在回调zkfc中的增删改方法。

24.   比如说，当zkfc2监听到znode目录结构被删除了之后，会把namenode1降低为备份节点，把namenode2提升为主节点，并由zkfc2告诉zookeeper集群去创建一个新的znode目录结构。

25.   Zookeeper的客户端ZkClient去连接zookeeper的server时候都会创建sendThread和eventThread两个线程，其中sendThread主要用于client与server端之间的网络连接，真正的处理线程由eventThread来执行。

26.   步骤：

第一步：zookeeper集群内部通过选举机制选出一个leader，然后此leader向集群内的follower同步数据（此时集群内的数据最新了）。此时集群就可以向外提供服务了。

 

第二步：客户端client向zookeeper集群中的server1节点发送增删改的请求。我们下面以namenode集群为例，zkfc一手抓着namenode，另一个手抓着zookeeper集群（其实这里就是zookeeper的客户端client）。当搭建namenode高可用集群的时候，两台namenode都会通过zkfc（也是zookeeper的客户端）给zookeeper集群发送增删改的请求，谁先请求到zookeeper集群，谁就是主节点。

 

第三步：由于server1只具备查询的功能，只有leader具备增删改的功能，因此serve1会把客户端client的请求转发给leader。此时假设zkfc1成功与zookeeper集群建立了连接，那么namenode1成为了主节点。

 

第四步：Leader接收到以后开始发起投票并通知Follwer进行投票，follower把投票结果发送给leader。当有过半的follower通过之后，会产生一个sessionid并创建znode目录结构（znode中记录着zxid事物编号等信息），leader会把sessionid发给集群中所有的follower（每个follower中都有一个消息队列，sessionid是发送到了follower中的消息队列里了）。

 

第五步：leader把session发送给集群中的所有follower节点（servre），这样整个集群就有了此sessionid（还能保证每个server的数据都是最新的）。

 

第六步：由server1把sessionid返回给客户端。这里的客户端是zkfc1和zkfc2。

 

第七步：zkfc1和zkfc2都会使用监听器来监听zookeeper集群中的这个znode目录节点，监听的方法是注册在zookeeper内存中的，当监听到这个目录有增删改的操作的时候，就会触发回调函数，回调函数是写在zkfc中（zkfc的其中一只手就是zookeeper的客户端client代码）的。这个注册方法与监听方法之间是使用接口来连接的。因为一个在zookeeper的服务器端，另一个在zookeeper的客户端。

 

第八步：（可选）当server1挂掉后，在此sessionid还没失效的时候，可以连接上集群中的其他server，因为session的一致性，每个server中都包含这个sessionid。

 

第九步：当leader挂掉后，此时就是个无主模式了，会通过投票机制选举出一个新的leader（zxid最大，如果有多个server的zxid都是最大，那在找出myid最大的）

 

第十步：当sessionid失效之后，znode目录结构也会被删除，此时监听器监听到此事件，会触发回调函数的执行，回调函数里面写的方法体是程序员自己指定的，大体内容就是提升namenode2为主节点。

总结一下：

①   zookeeper能对外提供分布式协调服务，是因为监听事件机制和回调函数。

②   Zookeeper内部的稳定是由于快速选举机制和session最终一致性。

③       在client和server通信之前, 首先需要建立连接, 该连接称为session,sessionid创建好之后会返回给客户端。在zookeeper集群中会有一个这个sessionid相对应的znode目录节点，此节点中的内容大小为1兆，用来记录此sessionid的信息，例如zxid事物编号等。client和server通信会产生很多事物，都会一一记录下来。当客户端client与server断开连接，就会导致session失效，此时这个znode也会被删除（因为这个znode中记录着这个session本次连接的事物信息等）

 

 

27.   Zookeeper是分布式协调服务，对外提供服务，那么对外提供的是什么服务呢？

28.   客户端连接Zookeeper集群，会在集群中随机找出一台follower来连接，这也是负载均衡的体现

 

 

 

 

 

下面是网上的总结：https://www.cnblogs.com/felixzh/p/5869212.html

https://www.cnblogs.com/yuyijq/p/3424473.html

https://www.cnblogs.com/raphael5200/p/5285583.html

1．  Zookeeper设计的目的

1.最终一致性：client不论连接到哪个Server，展示给它都是同一个视图，这是zookeeper最重要的性能。 

2.可靠性：具有简单、健壮、良好的性能，如果消息被到一台服务器接受，那么它将被所有的服务器接受。 

3.实时性：Zookeeper保证客户端将在一个时间间隔范围内获得服务器的更新信息，或者服务器失效的信息。但由于网络延时等原因，Zookeeper不能保证两个客户端能同时得到刚更新的数据，如果需要最新数据，应该在读数据之前调用sync()接口。 

4.等待无关（wait-free）：慢的或者失效的client不得干预快速的client的请求，使得每个client都能有效的等待。 

5.原子性：更新只能成功或者失败，没有中间状态。 

6.顺序性：包括全局有序和偏序两种：全局有序是指如果在一台服务器上消息a在消息b前发布，则在所有Server上消息a都将在消息b前被发布；偏序是指如果一个消息b在消息a后被同一个发送者发布，a必将排在b前面。 

2．  Zookeeper工作原理

Zookeeper 的核心是原子广播，这个机制保证了各个Server之间的同步。实现这个机制的协议叫做Zab协议。Zab协议有两种模式，它们分别是恢复模式（选主）和广播模式（同步）。当服务启动或者在领导者崩溃后，Zab就进入了恢复模式，当领导者被选举出来，且大多数Server完成了和 leader的状态同步以后，恢复模式就结束了。状态同步保证了leader和Server具有相同的系统状态。 

为了保证事务的顺序一致性，zookeeper采用了递增的事务id号（zxid）来标识事务。所有的提议（proposal）都在被提出的时候加上了zxid。实现中zxid是一个64位的数字，它高32位是epoch用来标识leader关系是否改变，每次一个leader被选出来，它都会有一个新的epoch，标识当前属于那个leader的统治时期。低32位用于递增计数（即：高32位是标识当前leader是哪台服务器，因为leader可能会经常变；低32位是个序列号，目的是为了防止两个相同名字的目录节点导致重名，所以后面加上一个累加的序列号就可以了）。

3．  Zookeeper中server的工作状态

每个Server在工作过程中有三种状态： 

LOOKING：当前Server不知道leader是谁，正在搜寻
LEADING：当前Server即为选举出来的leader
FOLLOWING：leader已经选举出来，当前Server与之同步

4．  Zookeeper选主流程(basic paxos模式)

当leader崩溃或者leader失去大多数的follower，这时候zk进入恢复模式（无主模式），恢复模式需要重新选举出一个新的leader，让所有的Server都恢复到一个正确的状态。Zk的选举算法有两种：一种是基于basic paxos实现的，另外一种是基于fast paxos算法实现的。系统默认的选举算法为fast paxos。

1.选举线程由当前Server发起选举的线程担任，其主要功能是对投票结果进行统计，并选出推荐的Server； 

2.选举线程首先向所有Server发起一次询问(包括自己)； 

3.选举线程收到回复后，验证是否是自己发起的询问(验证zxid是否一致)，然后获取对方的id(myid)，并存储到当前询问对象列表中，最后获取对方提议的leader相关信息(id,zxid)，并将这些信息存储到当次选举的投票记录表中； 

4.收到所有Server回复以后，就计算出zxid最大的那个Server，并将这个Server相关信息设置成下一次要投票的Server； 

5.线程将当前zxid最大的Server设置为当前Server要推荐的Leader，如果此时获胜的Server获得n/2 + 1的Server票数，设置当前推荐的leader为获胜的Server，将根据获胜的Server相关信息设置自己的状态，否则，继续这个过程，直到leader被选举出来。通过流程分析我们可以得出：要使Leader获得多数Server的支持，则Server总数必须是奇数2n+1，且存活的Server的数目不得少于n+1. 每个Server启动后都会重复以上流程。在恢复模式下，如果是刚从崩溃状态恢复的或者刚启动的server还会从磁盘快照中恢复数据和会话信息，zk会记录事务日志并定期进行快照，方便在恢复时进行状态恢复。

5．  Zookeeper选主流程(fast paxos模式)：

fast paxos流程是在选举过程中，某Server首先向所有Server提议自己要成为leader，当其它Server收到提议以后，解决epoch和 zxid的冲突，并接受对方的提议，然后向对方发送接受提议完成的消息，重复这个流程，最后一定能选举出Leader。

6．  Zookeeper的同步流程

选完Leader以后，zk就进入状态同步过程。 

1. Leader等待server连接； 

2 .Follower连接leader，将最大的zxid发送给leader； 

3 .Leader根据follower的zxid确定同步点； 

4 .完成同步后通知follower 已经成为uptodate状态； 

5 .Follower收到uptodate消息后，又可以重新接受client的请求进行服务了。

7．  Zookeeper工作流程

 

   1.在Client向Follwer发出一个写的请求

　　　　2.Follwer把请求发送给Leader

　　　　3.Leader接收到以后开始发起投票并通知Follwer进行投票

　　　　4.Follwer把投票结果发送给Leader

　　　5.Leader将结果汇总后如果需要写入，则开始写入同时把写入操作通知给Leader，然后commit;

　　　6.Follwer把请求结果返回给Client

 

 

8．  Follower的主要功能

• 1. 向Leader发送请求（PING消息、REQUEST消息、ACK消息、REVALIDATE消息）；
• 2 .接收Leader消息并进行处理；
• 3 .接收Client的请求，如果为写请求，发送给Leader进行投票；
• 4 .返回Client结果。

9.zookeeper客户端的作用

 1 与ZooKeeper服务端进行通信，包括：连接，发送消息，接受消息。

  2 发送心跳信息，保持与ZooKeeper服务端的有效连接与Session的有效性。

     3 错误处理，如果客户端当前连接的ZooKeeper服务端失效，自动切换到另一台有    效的ZooKeeper服务端。

  4 管理Watcher监听器，处理异常调用和Watcher。