`
maosheng
  • 浏览: 560239 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Zookeeper 总结

 
阅读更多
zookeeper是一个开源的分面式协调服务;换句话讲,zk是一个典型的分布式数据一致性解决方案,分布式应用程序可以基于它实现数据的发布/订阅、负载均衡、名称服务、分布式协调/通知、集群管理、Master选举、分布式锁和分布式队列。

•它是一个中间件,提供协调服务

Zookeeper使用场景:

(1)命名服务:在zookeeper的文件系统里创建一个目录,即创建一个全局唯一的path。

(2)数据发布与订阅:发布与订阅即所谓的配置管理,顾名思义就是将数据发布到zk节点上,供订阅者动态获取数据,实现配置信息的集中式管理和动态更新。

把应用配置放置zookeeper上去,保存在 Zookeeper 的某个目录节点中,然后所有相关应用程序对这个目录节点进行监听,一旦配置信息发生变化,每个应用程序就会收到 Zookeeper 的通知,然后从 Zookeeper 获取新的配置信息应用到系统中就好。

(3)分布通知/协调:ZooKeeper 中特有watcher注册与异步通知机制,能够很好的实现分布式环境下不同系统之间的通知与协调,实现对数据变更的实时处理。使用方法通常是不同系统都对 ZK上同一个znode进行注册,监听znode的变化(包括znode本身内容及子节点的),其中一个系统update了znode,那么另一个系统能 够收到通知,并作出相应处理。使用zookeeper来进行分布式通知和协调能够大大降低系统之间的耦合。

(4)分布式锁:主要得益于ZooKeeper为我们保证了数据的强一致性,即用户只要完全相信每时每刻,zk集群中任意节点(一个zk server)上的相同znode的数据是一定是相同的。锁服务可以分为两类,一个是保持独占,另一个是时序控制。时序控制中Zk的父节点(/distribute_lock)维持一份sequence,保证子节点创建的时序性,从而也形成了每个客户端的全局时序。

保存独占:将zookeeper上的一个znode看作是一把锁,通过createznode的方式来实现。所有客户端都去创建 /distribute_lock 节点,最终成功创建的那个客户端也即拥有了这把锁。用完删除自己创建的distribute_lock 节点就释放锁。
时序控制:基于/distribute_lock锁,所有客户端在它下面创建临时顺序编号目录节点,和选master一样,编号最小的获得锁,用完删除,依次方便。

(5)集群管理:节点(机器)增删及Master选取。节点增删:所有机器约定在父目录GroupMembers下创建临时目录节点,然后监听父目录节点的子节点变化消息。一旦有机器挂掉,该机器与 zookeeper的连接断开,其所创建的临时目录节点被删除,所有其他机器都收到通知:某个兄弟目录被删除,于是,所有人都知道:它退群了。新机器加入 也是类似,所有机器收到通知:新兄弟目录加入,highcount又有了。Master选取:所有机器创建临时顺序编号目录节点,每次选取编号最小的机器作为master就好。

(6)队列管理:分 同步队列 和 FIFO队列(入队与出队)。
同步队列:当一个队列的成员都聚齐时,这个队列才可用,否则一直等待所有成员到达。在约定目录下创建临时目录节点,监听节点数目是否是我们要求的数目。
FIFO队列:和分布式锁服务中的控制时序场景基本原理一致,入列有编号,出列按编号。

(7)分布式与数据复制:Zookeeper作为一个集群提供一致的数据服务,必然在所有机器间做数据复制。数据复制好处:(1)容错:一个节点出错,不致于让整个系统停止工作,别的节点可以接管它的工作。(2)提高系统的扩展能力:把负载分布到多个节点上,或者增加节点来提高系统的负载能力;(3)性能提升:让客户端本地访问就近节点,提高用户访问速度。

Zookeeper的数据模型

它很像数据结构当中的树,也很像文件系统的目录,树是由节点所组成,Zookeeper的数据存储也同样是基于节点,这种节点叫做Znode。但是,不同于树的节点,Znode的引用方式是路径引用,类似于文件路径:(/ 植物 / 荷花),这样的层级结构,让每一个Znode节点拥有唯一的路径,就像命名空间一样对不同信息作出清晰的隔离。

Znode存储的数据信息。

    ACL:
    记录Znode的访问权限,即哪些人或哪些IP可以访问本节点。

    stat:
    包含Znode的各种元数据,比如事务ID、版本号、时间戳、大小等等。

            cZxid:创建该节点的zxid
            ctime:该节点的创建时间
            mZxid:该节点的最后修改zxid
            mtime:该节点的最后修改时间
            pZxid:该节点的最后子节点修改zxid
            cversion:该节点的子节点变更次数
            dataVersion:该节点数据被修改的次数
            aclVersion:该节点的ACL变更次数
            aphemeraOwner:临时节点所有者会话id,非临时的为0
            dataLength:该节点数据长度
            numChildren:子节点数

    child:
    当前节点的子节点引用,类似于二叉树的左孩子右孩子。

这里需要注意一点,Zookeeper是为读多写少的场景所设计。Znode并不是用来存储大规模业务数据,而是用于存储少量的状态和配置信息,每个节点的数据最大不能超过1MB。

Zookeeper的基本操作

create:创建节点

delete:删除节点

exists:判断节点是否存在

getData:获得一个节点的数据

setData:设置一个节点的数据

getChildren:获取节点下的所有子节点


Zookeeper的集群

Zookeeper Service集群是一主多从结构。

在更新数据时,首先更新到主节点(这里的节点是指服务器,不是Znode),再同步到从节点。

在读取数据时,直接读取任意从节点。

为了保证主从节点的数据一致性,Zookeeper采用了ZAB协议,这种协议非常类似于一致性算法Paxos和Raft。


session:

每个zk客户端与zk连接时会创建一个session,在设置的sessionTimeOut内,客户端会与zk进行心跳包的定时发送,从而感知每个客户端是否宕机,如果创建某个临时Znode的对应session销毁时,相应的临时节点也会被zk删除。

watcher:

监听机制,监听某个Znode 当该znode发生变化时,会回调该watcher,但是这个watcher是一次性的,下次需要监听时还得再注册一次。


注册中心:

Root--->Service---->Type---->URL

第二层的znode是服务名称

第三层的znode为对应的类型,调用者还是提供者

第四层的znode是他们的URL 即对应机器的IP地址 URL这个znode为临时节点

提供者服务启动后向zookeeper注册他有的services,并将自己的ip地址和端口作为路径,创建对应的URL临时节点。

调用者调用相应服务时,找到对应的service节点,获得service所有的子节点,并且watch service节点,然后同样注册自己的znode节点。

每个调用端需明确提供者和调用者的数量以及提供者相应的IP地址

调用端获得 service/providers的所有子节点 即获得所有的提供者的IP 使用对应负载均衡策略连接其中一个ip地址,进行rpc调度

当提供者或调用者出现宕机或者网络故障时,对应session的临时znode会被销毁,即哪个IP的机子宕机了,他对应的url节点在sessionTimeOut后,就会被销毁,此时由于service节点已发生了变化,所有可用调用者都会收到watcher的通知,此时重新获得所有的调用者提供者IP及其数量,并继续监听,从而悉知调用端和服务端的服务可用情况。


著名的CAP理论指出,一个分布式系统不可能同时满足C(一致性)、A(可用性)和P(分区容错性)。由于分区容错性在是分布式系统中必须要保证的,因此我们只能在A和C之间进行权衡。在此Zookeeper保证的是CP, 而Eureka则是AP。









分享到:
评论

相关推荐

    10Zookeeper.xmind

    史上最详细的zookeeper总结文档,涵盖了zookeeper的各个方面,案例代码,内容应有尽有,建议收藏下载。

    zookeeper 系列整理总结

    ZooKeeper 是一个高度可靠的分布式协调系统,常用于解决分布式环境中的数据一致性问题。它提供了一种简单易用的接口,使得分布式应用可以基于ZooKeeper实现同步服务、配置管理、命名服务、分布式锁和组服务等核心...

    zookeeper使用总结

    ### Zookeeper 使用总结 #### ZOOKEEPER 概述 - **Zookeeper 介绍** Zookeeper 是一个分布式协调服务框架,旨在简化分布式应用程序的开发。它提供了一个高性能的协同工作系统,使得开发者能够专注于应用程序的...

    Zookeeper学习总结.xmind

    主要介绍了zookeeper 的概述,特点,作用,角色,安装,shell命令

    Zookeeper_安装和配置

    ### 总结 Zookeeper 的安装和配置相对简单,无论是单机模式还是集群模式,都可以通过简单的步骤快速搭建。它的核心功能包括配置管理、名字服务、分布式锁和集群管理,这些功能使得 Zookeeper 成为了分布式系统中不...

    ZooKeeper3.4.9 windos和linux

    总结,ZooKeeper 3.4.9在Windows和Linux上的部署与应用涵盖了从基本安装到集群配置,再到实际应用场景的多个层面。理解并熟练掌握这些知识,对于构建和管理分布式系统至关重要。无论是单机还是集群模式,ZooKeeper都...

    zookeeper集群升级方案

    #### 六、总结 通过对Zookeeper集群从3.3.4版本升级至3.4.8版本的过程进行详细的规划与实施,不仅可以提高系统的性能与稳定性,还能够更好地支持业务发展。在整个升级过程中,需要注意备份、测试验证、逐步割接等...

    zookeeper-3.4.12版本

    总结,Zookeeper 3.4.12作为一个稳定版本,为分布式环境提供了强大的协调能力。无论是数据一致性、服务发现还是分布式锁,都能在Zookeeper的帮助下轻松实现。对于Java开发者而言,理解并掌握Zookeeper的使用和原理,...

    【Zookeeper管理工具】

    总结来说,Zookeeper管理工具是管理和维护Zookeeper集群的重要辅助工具,它简化了操作流程,提高了运维效率。通过源码学习,开发者可以更深入地理解Zookeeper的工作原理,从而更好地应用到实际的分布式系统中。

    zookeeper限制ip版

    总结,本文详细介绍了如何在Zookeeper 3.4.14版本中实现IP黑白名单功能,从需求分析到源码改造,再到功能测试,覆盖了整个开发流程,旨在帮助读者理解和实践Zookeeper的安全管理。通过这样的定制化改造,我们可以更...

    linux中zookeeper安装包zookeeper-3.4.8.tar

    总结来说,Zookeeper-3.4.8是一个强大的分布式协调服务,其安装包中的`zookeeper-3.4.8.jar`和`slf4j-api-1.6.1.jar`是运行和管理Zookeeper所必需的。通过理解和掌握Zookeeper的工作原理及其配置,开发者可以有效地...

    zookeeper-3.4.6.zip

    总结,Apache ZooKeeper 3.4.6是一个强大且灵活的分布式协调服务,其简洁的API和稳定的性能使得它在分布式环境中得到了广泛应用。正确理解和使用Zookeeper,可以帮助开发者构建更加健壮和高效的分布式系统。

    zookeeper-3.4.6.rar

    总结一下,`zookeeper-3.4.6.rar`包含的ZooKeeper组件是分布式系统中的核心组件,它与Dubbo的结合提供了强大的服务治理能力。了解和掌握ZooKeeper的工作原理、数据模型、API使用以及最佳实践,对于构建和维护大规模...

    zookeeper3.6.0-linux版本

    总结,ZooKeeper是分布式系统中不可或缺的组件,它的稳定性和高性能使其在大数据、云计算等领域广泛应用。理解并熟练掌握ZooKeeper的原理和使用,对于Linux运维人员来说至关重要,能够帮助构建更加可靠的分布式服务...

    zookeeper-3.4.6.tar

    总结来说,Zookeeper 3.4.6是分布式环境中的重要基石,它的强大功能和易用性使其成为许多大型分布式系统的首选协调服务。深入理解和掌握Zookeeper的原理和使用,对于提升分布式应用的稳定性和效率具有重大意义。

    Zookeeper和Hbase安装总结手册.

    Zookeeper和Hbase安装总结手册.

    zookeeper客户端 图形化界面

    总结,Zookeeper客户端图形化界面为Zookeeper的管理和维护提供了便利,通过直观的图形展示和便捷的操作,使得Zookeeper的管理变得更加高效和人性化。无论是开发人员还是运维人员,都能从中受益,提升工作效率。在...

    apache-zookeeper-3.5.6-bin.tar

    总结来说,Apache ZooKeeper 是一个强大的分布式协调工具,通过 `apache-zookeeper-3.5.6-bin.tar` 压缩包,我们可以获取到部署和运行 ZooKeeper 3.5.6 版本所需的所有文件。理解其核心概念、部署步骤以及在分布式...

    大数据技术基础实验报告-Zookeeper的安装配置和应用实践.doc

    **大数据技术基础实验报告——Zookeeper的安装配置与应用实践** Apache ZooKeeper 是一个分布式的,开放源码的分布式应用程序协调服务,它是集群的管理者,监视着集群中各个节点的状态根据节点提交的反馈进行下一步...

Global site tag (gtag.js) - Google Analytics