散仙,在前几篇关于zookeeper的文章中,介绍了基于zookeeper实现的分布式公平锁,以及非公平锁,那么本篇呢,散仙就来介绍下关于使用zookeeper如何模拟实现一个分布式队列。
那么为什么需要分布式队列呢?,我们都知道队列,在我们的编程开发中,是一种比不可少的数据结构,最典型莫过于,生产者与消费者的例子了,我们在程序过经常使用的队列是基于非分布式的环境,JAVA JDK也自带了非常多的队列的实现,有基于阻塞模式的,也有基于非阻塞模式的,这些我们可以在不同的场景下使用。
要想把JDK自带的队列给设计成分布式的队列,是一件非常繁琐的事,这时候我就可以轻而易举的使用zookeeper来完成这个功能,zookeeper由于其特殊的文件系统,所以在分布式环境下,能做许多有用的事。
例如在Hadoop中,map任务完成后,我们启动reduce,我们都知道Hadoop的MapReduce是一种分布式的计算框架,所以这时候我们就可以使用zookeeper来完成这里的分布式队列的运用,虽然,hadoop本身用的并不是zookeeper来实现的。
代码如下:
package com.qin.queue;
import java.util.Collections;
import java.util.List;
import java.util.concurrent.CountDownLatch;
import org.apache.zookeeper.CreateMode;
import org.apache.zookeeper.WatchedEvent;
import org.apache.zookeeper.Watcher;
import org.apache.zookeeper.ZooKeeper;
import org.apache.zookeeper.Watcher.Event.EventType;
import org.apache.zookeeper.ZooDefs.Ids;
import com.test.Lock1;
/**
*
* 基于zookeeper实现的
* 分布式队列
* @author qindongliang
*
* **/
public class DistributeQueue1 {
private ZooKeeper zk;
private CountDownLatch down=new CountDownLatch(1);
public DistributeQueue1(String zkHost) {
try{
zk=new ZooKeeper(zkHost, 5000, new Watcher(){
@Override
public void process(WatchedEvent event) {
if(event.getState()==Event.KeeperState.SyncConnected){
down.countDown();
}
}
});
}catch(Exception e){
e.printStackTrace();
}
}
/**
* 创建一个持久node,
*
* **/
public void createPersist()throws Exception{
zk.create("/a", "主节点".getBytes(), Ids.OPEN_ACL_UNSAFE , CreateMode.PERSISTENT);
System.out.println("创建主节点成功........");
}
/**
*
* 校验队列情况
*
* **/
public void check()throws Exception{
List<String> list=zk.getChildren("/a", null);
if(list.size()==3){
execute();
}else{
System.out.println("阻塞中......,队列成员数量:"+list.size());
}
}
public void execute(){
System.out.println("队列已满,开始执行任务......");
}
/***
*
* 注册队列
*
*
* */
public void createTemp()throws Exception{
zk.create("/a/b", "a".getBytes(), Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);
System.out.println("有任务注册队列成功");
check();
}
public static void main(String[] args)throws Exception {
DistributeQueue1 dq=new DistributeQueue1("192.168.120.128:2181");
//dq.createPersist();
dq.createTemp();
Thread.sleep(Integer.MAX_VALUE);
}
}
代码如上,散仙在代码里设定队列的总数为3,就执行干某一件事,我可以去zk的主节点上注册临时有序的节点,每注册一次都会校验,当前队列是不是以及满队,如果满队的话,就开始执行某个任务,从而达到分布式队列的模拟,这与JDK自带的CountDownLatch和CyclicBarrier是非常类似的,当然我们也可也使用zk模拟,这两个非分布式的功能,从而为我们的应用程序在分布式的环境下提供便利。
分享到:
相关推荐
在实际使用中,ZkTools不仅适用于开发和运维人员日常的Zookeeper管理,也是进行系统故障排查和性能优化的有力助手。通过压缩包中的ZkTools,用户可以快速上手,提升工作效率,更好地驾驭Zookeeper这个强大的分布式...
**Zookeeper可视化工具详解** Apache ZooKeeper 是一个分布式...总之,Zookeeper可视化工具是管理和维护Zookeeper集群不可或缺的助手,通过它们,我们可以更高效、更安全地操作Zookeeper,实现分布式系统的稳定运行。
《Zookeeper:分布式服务治理的重要角色》 Zookeeper,作为Apache的一个开源项目,是分布式应用程序协调服务...它不仅提供了丰富的功能,而且有着成熟的社区支持和广泛的应用实践,是构建大规模分布式应用的得力助手。
ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,它是集群的管理者,监视着集群中各个节点的状态根据节点提交的反馈...它的跨平台性和易用性使得在各种环境下都能灵活应用,是Zookeeper使用者的有力助手。
ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,它是集群的管理者,监视着集群中各个节点的状态根据节点提交的反馈进行下...如果你经常处理ZooKeeper相关的工作,这款插件无疑是你不可或缺的得力助手。
而“Zookeeper查看器”则成为了开发者和运维人员进行故障排查、监控与管理Zookeeper的得力助手。 首先,我们需要理解Zookeeper的核心功能。在分布式系统中,Zookeeper提供了一种名为“ZNode”的数据结构,类似于...
Apache ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,它是集群的管理者,监视着集群中各个节点的状态根据节点提交的反馈进行下一步合理操作。最终将简单易用的接口和性能高效、功能稳定的系统提供给...
5. **代码助手**:提供ZooKeeper相关的代码提示和自动完成,加速编码过程。 6. **配置向导**:简化ZooKeeper连接设置,只需几步即可连接到本地或远程的ZooKeeper服务器。 7. **版本兼容性**:虽然描述中提到的是...
总结起来,ZooInspector是Zookeeper管理员的得力助手,通过其强大的图形界面,用户可以更直观、便捷地管理和监控Zookeeper的数据。了解并熟练使用ZooInspector,对于提升Zookeeper的管理和故障排查能力至关重要。
总的来说,"zookeeper-web"是Zookeeper管理的得力助手,它通过Web界面极大地提升了Zookeeper的易用性,是分布式系统管理员的必备工具之一。掌握"zookeeper-web"的使用,不仅可以提升工作效率,也有助于更好地理解和...
在IT行业中,Zookeeper是Apache软件基金会的一个开源项目,常用于分布式协调服务,确保数据的一致性和高可用性。而ZooInspector则为这个复杂的分布式系统提供了友好的图形用户界面(GUI),极大地简化了开发者和管理...
ZooKeeper是Apache软件基金会的一个项目,它提供了一个分布式协调服务,广泛应用于分布式系统中,如配置管理、命名服务、分布式同步、组服务等。ZooInspector作为ZooKeeper的可视化界面,极大地简化了用户与...
总结来说,ZooKeeper作为分布式系统的协调者,通过提供强一致性、高可用性的服务,极大地简化了分布式环境下的复杂问题,成为大数据和云计算领域的得力助手。理解和掌握ZooKeeper,对于开发和运维分布式系统具有重要...
总的来说,Exhibitor是Zookeeper管理员的得力助手,通过它,你可以更高效地管理和维护Zookeeper集群,确保分布式系统的稳定运行。正确配置和使用Exhibitor对于提升Zookeeper的运维效率和系统可靠性具有重要意义。
《Zookeeper 3.4.6:探索分布式一致性解决...它的设计思路、实现机制以及丰富的API,使其成为分布式系统中的得力助手。通过深入学习和使用,开发者可以有效地构建稳定、高效的分布式应用,应对复杂的分布式环境挑战。
**Zookeeper查看器:ZooInspector详解** ...总结来说,ZooInspector作为Zookeeper的辅助工具,提供了一个图形化的接口,方便用户理解和管理Zookeeper集群,对于开发者和运维人员来说,它是不可或缺的调试和管理助手。
总之,Zookeeper 可视化工具是管理和维护 Zookeeper 集群的强大助手,能够简化操作流程,提高运维效率,是 IT 专业人士不可或缺的工具之一。通过熟练掌握和使用这些工具,可以更好地管理和优化基于 Zookeeper 的...
总结来说,本资源包提供的"多线程入门资料"涵盖了多线程的基本概念、实现方式、线程同步与通信、并发问题及其解决方案,以及分布式锁的原理与实现,是学习Java多线程和分布式系统的好助手。通过深入学习和实践,...
在分布式系统领域,ZooKeeper 是一个至关重要的组件,它为分布式应用程序提供了高效且可靠...在实际项目中,ZooKeeper 被广泛应用于配置管理、命名服务、分布式锁、队列等多个场景,是构建高可用分布式系统的得力助手。