`
haoxuexi87
  • 浏览: 6868 次
文章分类
社区版块
存档分类
最新评论

分布式集群任务调度解决方案

 
阅读更多
课程观看地址:http://www.xuetuwuyou.com/course/247
课程出自学途无忧网:http://www.xuetuwuyou.com
讲师:友凡老师




课程介绍


作为一个开发者,避免不了定时任务的问题,最粗暴和简单直接的解决方案就是crontab。当然在机器少,任务不多,定时任务之间关联少的情况下,crontab效率还是比较高和便捷的。但当机器越多、定时任务越多,各个任务联系越紧密的情况下,用crontab进行定时任务的管理配置,就会非常混乱,严重影响工作效率。

机器多、定时任务多的情况下,就会遇到以下问题:
1、每个服务器各个用户下的crontab任务管理混乱,生命周期无法统一协调管理
2、定时任务运行异常告警难以统一对接
3、任务A和任务B如果存在互斥关系,crontab很难进行互斥处理
4、随着时间增长,当定时任务达到几千上万的时候,定时任务就非常难以管理,线上跑了多个定时任务,每个定时任务什么时候运行,属于哪个应用和哪个开发负责等等问题变得很难解决。


Linux原生Crontab调度系统和Quartz对比:

1、执行粒度方面:
Crontab:进程调度
Quartz:线程调度
线程调度优势:一是更节省资源,二是可以在进程内做数据交换,做数据交换这点很重要。

2、平台依赖性:
Crontab支持Linux系统
Quartz由于是Java实现,所以支持跨平台。

3、调度操作集上:
Quartz的设置更为灵活,可以很方便的通过代码完成各种自定义需求,而且完全闭包Crontab。
但是Crontab的最小调度单元为分钟级,而Quartz可以更细,Crontab实现自定义需求比较麻烦。

4、Job监控方面:
Quartz支持Listener,对job运行情况监控很方便,并且能用JobStores进行调度信息的持久化(内存、DB均可),进而可以实现job可视化

5、高可用:
Quartz支持分布式集群,这一点很重要,而且实现很方便。



为什么要用分布式集群任务调度?
想象一下,现在有 A 、B、 C  3 台机器同时作为集群服务器对外统一提供 SERVICE,3 台机器上各有一个 QUARTZ  Job,它们会按照即定的 SCHEDULE 自动执行各自的任务。由于三台SERVER 里都有 QUARTZ ,因此会存在重复处理 TASK 的现象。一般的解决方案是只在一台服务器上装 QUARTZ ,其它两台不装,这样的话其实就是单机了,quartz会存在单点问题,一旦装有quartz的服务器宕了,服务就无法提供了。当然通过改 QUARTZ JOB 的代码也可以实现,但是这对开发人员要求比较高,而且可能会出现其他问题。然而quartz本身就提供了很好的集群方案。quartz集群需要数据库的支持(JobStore TX或者JobStoreCMT),从本质上来说,是使集群上的每一个节点通过共享同一个数据库来工作而达到高可用的。分布式集群任务调度,quartz是一个比较好的选择。简单,强大,稳定。


分布式集群时有个问题,就是所有服务器时钟应当要同步,以免出现离奇且不可预知的问题。
分享到:
评论

相关推荐

    分布式任务调度的解决方案.docx

    目前,市面上有许多成熟的分布式任务调度解决方案,其中最具代表性的有两个: 1. **XXL-JOB**:由大众点评的员工徐雪里在2015年发布的一个轻量级分布式任务调度框架。该框架设计简洁、易于扩展,适用于快速开发场景...

    分布式定时任务调度系统技术选型指南.docx

    - **elastic-job**:由当当网开发的分布式调度解决方案,包含Elastic-Job-Lite(轻量级)和Elastic-Job-Cloud(云环境)。Elastic-Job-Lite不依赖任何中间件,仅依赖Zookeeper进行分布式协调。Elastic-Job-Cloud则...

    quartz+spring分布式集群调度

    总结,Quartz+Spring的分布式集群调度方案能够帮助开发者构建稳定且可扩展的定时任务系统。通过合理配置和实践,可以满足复杂的企业级应用需求。而提供的"spring-quartz"示例则为学习和实践这一方案提供了宝贵的参考...

    Spring Task+Zookeeper分布式定时任务调度组件-Taroco-Scheduler.zip

    Taroco-Scheduler项目正是利用了Spring Task和Zookeeper的特性,创建了一个分布式任务调度解决方案。在Taroco-Scheduler-master这个压缩包中,我们可以找到项目的源代码,包括服务端(scheduler-server)和客户端...

    基于Hadoop的分布式集群大数据动态存储系统设计.pdf

    实践证明,这种基于Hadoop的动态存储系统可以显著提升数据存储和处理效率,降低系统崩溃的风险,为大数据处理提供了一种可行且高效的解决方案。 该设计工作不仅为Hadoop生态系统增加了新的功能,也为大数据存储系统...

    go 语言实现的分布式定时任务调度器-bee-crontab.zip

    "bee-crontab"便是一个基于Go语言实现的分布式定时任务调度器,旨在提供可靠、可扩展的任务调度解决方案。 1. **Go语言特性与bee-crontab** - Go语言的并发模型:Go的goroutine和channel使得bee-crontab可以轻松...

    LTS分布式任务调度

    其核心目标是提供一种简单、易用且可扩展的任务调度解决方案。 **LTS架构** LTS由几个关键组件构成,包括任务提交客户端(TaskSubmitter)、任务调度器(TaskScheduler)、工作节点(WorkerNode)以及监控系统...

    基于java编写的分布式定时任务调度、管理、监控系统.zip

    本系统以Java编程语言为基础,利用其强大的跨平台能力和丰富的开源库,构建了一个灵活、可扩展且稳定的解决方案。 在Java中,实现分布式定时任务调度最常用的框架是Quartz和Spring Scheduler。Quartz是一个开源的...

    基于YARN的分布式资源动态调度与协同分配系统.pdf

    本文介绍的基于YARN(Yet Another Resource Negotiator)的分布式资源动态调度与协同分配系统,针对传统分布式资源调度框架Storm on YARN的不足,提出了一种新的解决方案。 首先,分布式资源调度框架Storm on YARN...

    lts分布式任务调度系统

    总的来说,LTS分布式任务调度系统是一个全面的解决方案,涵盖了任务的生命周期管理、调度策略、执行、监控等多个方面,是构建大规模分布式系统中的重要组件。其易于使用和高度可扩展的特性,使其成为许多企业进行...

    schedule-job, 基于Spring Boot Quartz 的分布式任务调度系统.zip

    【标题】:基于Spring Boot和Quartz的...它为企业提供了一个灵活、可靠的解决方案,以满足各种定时任务的需求。通过这个项目,开发者可以深入学习和实践Spring Boot与Quartz的整合,以及分布式环境下的任务调度策略。

    探寻繁杂定时任务的解决方案:分布式任务调度系统.docx

    综上所述,TCT作为一套先进的分布式任务调度系统,不仅解决了现有开源方案中存在的局限性,还为企业提供了更加强大、灵活且安全的任务调度解决方案,能够有效地应对大规模分布式场景下的任务调度需求。

    分布式任务调度框架elastic-job-lite

    分布式任务调度框架Elastic-Job-Lite是当当网推出的一款轻量级无中心化任务调度解决方案,旨在解决大规模分布式环境下的任务调度问题。这款框架的设计理念是将任务的执行与调度分离,使得任务调度器无需关注具体的...

    ElasticJob分布式调度解决方案 v3.0.4.zip

    ElasticJob v3.0.4是该框架的一个稳定版本,提供了更高效、灵活的分布式任务调度解决方案。 ElasticJob的核心功能包括: 1. **分布式任务拆分**:ElasticJob能够将一个大任务拆分为多个小任务,并在分布式环境中...

    ssm分布式任务调度系统.rar

    SSM分布式任务调度系统是基于Spring、SpringMVC和...综上所述,SSM分布式任务调度系统是一个利用Java三大框架构建的复杂系统,它结合了分布式计算的优势,为大规模的定时任务和批量操作提供了强大且可靠的解决方案。

    VIP的分布式任务调度平台

    VIP的分布式任务调度平台是一个专为大型企业设计的高级解决方案,用于管理和执行各种类型的任务,如Java和Shell脚本。这个平台的核心目标是提供高效、可靠且可扩展的任务调度能力,以满足现代业务环境中对实时数据...

    分布式任务调度在电力市场交易系统中的应用设计.pdf

    本文主要分析了分布式任务调度在电力市场交易系统中的应用设计,提出了一个基于分布式控制的任务调度解决方案,并通过实际的实践证明了该方案的可行性。 首先,随着电力交易规模的不断扩大,电力交易系统需要借助...

    dotnet-分布式任务调度系统纯NET打造的重量级大数据实时计算平台

    AntJob是一个纯.NET开发的重量级解决方案,特别适合于处理万亿级别的任务调度问题。其设计目标是为中小企业提供高效且可扩展的大数据分析平台,支持1000作业以内的场景。在.NET框架下,AntJob充分利用了C#语言的特性...

    分布式任务调度平台XXL-JOB应用.docx

    XXL-JOB是一个轻量级的分布式任务调度平台,它主要解决了传统调度工具如Quartz在实际使用中遇到的问题,提供了更加便捷、高效且可扩展的解决方案。该平台的设计目标是快速开发、易于学习、轻量级且具备良好的扩展性...

Global site tag (gtag.js) - Google Analytics