`
jiezhu2007
  • 浏览: 246036 次
  • 性别: Icon_minigender_1
  • 来自: 深圳
博客专栏
Cfa1f850-3fc3-3a36-9cd8-c3415c9610c6
hadoop技术学习
浏览量:144491
Group-logo
大数据产业分析
浏览量:2986
社区版块
存档分类
最新评论

chronos:数据中心的任务调度器(job scheduler)

阅读更多


 1、
Chronos来源

Chronos现在是一家初创公司 Mesosphere在维护,该公司的联合创始人是前Airbnb的工程师Florian Leibert(也曾在Twitter工作过)和Tobias Knaup。 ChronosAirbnb是用来替代cron,是一个跑在mesos上的分布式的,可靠的调度scheduler

Mesosphere公司相关信息大家可以到以下链接看看:

http://mesosphere.io/

2、Chronos架构

 

 

Chronos架在mesos上,负责定时任务触发,解决任务之间的重复调用,依赖关系。任务通过mesos提交给下面的Hive,Pig等框架执行,元数据存放在DB中。Chronos的可靠性依赖zookeeper解决。

3、chronos扩展性

      Chronos借助mesosmaster/slave架构,支持sh脚本,甚至通过异步的方式执行远端文件传输和脚本,可以通过扩展基本支持hadoop以及传统数据库,脚本等在本地和远端的执行调用。

   支持标准的ISO8601的调度,可定义作业执行完成后的触发器,支持任意长度的依赖链。

4、功能特性

· 基于WebUI

· 8601 Repeating Interval Notation

· Handles dependencies

· Job Stats (e.g. 50th, 75th, 95th and 99th percentile timing, failure/success)

· Fault Tolerance (Hot Master)

· Configurable Retries

· Multiple Workers (i.e. Mesos Slaves)

 

5、应用场景以及当前存在的问题:

(1)适合数据中心异构集群批任务(长周期,重复执行)统一调度和管理。

(2)可以通过Mesos承担统一管理资源,如果不需要mesos统一管理资源,mesos退化成通信框架。

(3)不适合对实时性要求高的任务(秒级),不适合单次执行触发的任务。

(4)Web UI还比较简陋,没有以图的方式显示任务的依赖关系。

(5)任务调度里面没有优先级。

(6)没有统计任务资源使用情况,调度信息反馈统计不足。

(7)没有调度自学习能力,不能自动调优调度效率。

 

6项目主页:

http://airbnb.github.io/chronos/#Describing%20the%20Dependency%20Graph

  • 大小: 59 KB
分享到:
评论

相关推荐

    job-scheduler:我自己的作业调度程序,用于替换 Chronos

    "job-scheduler"是一个专为替换Chronos设计的作业调度程序,它由JavaScript编写,这表明它可能利用了Node.js的生态系统来提供服务。 Chronos是一个基于Mesos的分布式时序作业调度系统,常被用于大数据环境中的任务...

    chronos:最初基于Carbon的独立DateTime库

    安装使用composer安装: $ composer require cakephp/chronos然后,您可以使用Chronos: <?phprequire 'vendor/autoload.php' ;use Cake \ Chronos \ Chronos ;printf ( "Now: %s" , Chronos :: now ());nesbot /...

    作业调度器Chronos.zip

    Chronos 是一个具备容错特性的作业调度器,可处理依赖性和基于 ISO8601 的调度。Chronos 是由 Airbnb 公司推出的用来替代 cron 的开源产品。你可以用它来对作业进行编排,支持使用 Mesos 作为作业执行器,支持和 ...

    Chronos:Chronos-用于go语言的静态竞赛检测器

    快速开始:下载包go get -v github.com/amit-davidson/Chronos/cmd/chronos通过入口chronos --file <path> --mod 帮助Usage of ./chronos: --file string The file containing the entry point of the program --mod...

    chronos:Golang的排程库

    调度程序管理所有作业任务的运行时。 配置完所有定义后,应运行以下命令,因为它会无限期地阻塞。 ...chronos . Launch ( ":8080" )... 调度程序的另一个导入功能是它还通过HTTP公开运行状况和统计信息。 这就是为...

    nim-chronos:Chronos-一个高效的异步编程库

    **nim-chronos:Chronos——高效的异步编程库** Nim语言的生态系统中,`nim-chronos`是一个至关重要的库,它为开发者提供了强大的异步编程工具,旨在提高性能和可读性。异步编程是现代软件开发中的一个核心概念,...

    docker-chronos:Debian Wheezy 上 Chronos 的 Dockerfile

    docker-chronos 用于在 Debian Wheezy 上运行 Chronos 的 Dockerfile。 指示 使用 Docker: $ docker run tobiassvn/chronos --master zk://localhost:2181/mesos --zk_hosts localhost:2181 通过马拉松: { " ...

    Chronos:chronos项目

    时光 正在安装 打开命令行并运行此命令 npm install 近期变动 去做 此目录包含以下子目录... lib-包含核心scriptcraft模块和代码。 模块-包含供其他人使用的模块 插件-包含插件(在启动时自动加载并全局命名空间...

    Chronos:Java swing中的Todo应用程序

    **Chronos:Java Swing 中的 Todo 应用程序** `Chronos` 是一个基于 Java Swing 开发的任务管理应用,它提供了基本的待办事项(Todo)功能,帮助用户组织和跟踪他们的日常任务。在深入讨论这个项目之前,我们首先...

    chronos:计时-简单的状态管理

    计时-简单的状态管理Chronos是一个用TypeScript编写的简单状态管理库,可通过Gulp转换为JavaScript。 初始化并启用新的Chronos对象后,将开始跟踪历史记录。 由于对象跟踪其历史记录,因此您可以对其执行撤消和重做...

    ansible-chronos_task:在 Chronos 上部署任务

    topface.chronos_task ... chronos_tasks要添加的 chronos 任务列表 例子 - hosts : chronos-api-server gather_facts : no roles : - role : topface.chronos_task chronos_url : http://chronos.d

    chronos:基于时区的工作测试

    "Chronos:基于时区的工作测试"是一个项目,它展示了如何在JavaScript环境中处理不同时区的工作场景。这个项目使用了Angular框架,一个流行的前端开发工具,来构建用户界面,并利用了moment.js的时间区插件(moment-...

    chronos:高效浏览并阻止网站。 网站拦截器+标签管理器WebExtension

    【Chronos:高效浏览与网站拦截利器 - WebExtension解析】 Chronos是一款强大的WebExtension,它集成了高效标签管理和网站拦截功能,旨在优化用户的在线工作体验,帮助用户更好地控制时间,提高生产力。这款扩展专...

    node-red-contrib-chronos:基于时间的Node-RED调度,排队,路由,过滤和操作节点

    节点红色贡献时间 Node-RED节点的集合,用于基于日期和时间的调度,排队,路由,过滤和操作。 还支持自动计算太阳事件(日出,日落,黄昏,黎明等)或月亮事件(月出,月落)的时间。 如果您遇到错误,想提出一个新...

    Java 实现分布式定时任务

    3. 任务调度:常见的分布式调度解决方案有Apache Mesos、Chronos、Elastic Job等。它们提供中心化的任务调度服务,协调各个节点的任务执行。 四、Quartz作为分布式定时任务库 Quartz是一个功能强大的定时任务库,...

    Project Chronos:时光-开源

    "Project Chronos:时光-开源"是一个开源的定时轨道项目,致力于提供与专业级系统相媲美的控制级别,但价格却远低于此类专业系统。该项目的显著特点是其极高的精度,能够实现精确到头发丝1/125的延时控制。值得注意的...

    Laravel开发-laravel-task-scheduler

    1. **Cron Jobs**: Laravel 任务调度器基于 Unix 的 Cron 机制,用于执行定时任务。在服务器上设置一个定时运行的 Cron Job,调用 Laravel 的 `php artisan schedule:run` 命令,框架会检查并执行所有预定的任务。 ...

    Chronos:Minecraft Forge mod来控制日长

    《Chronos:Minecraft Forge模组,探索时间调控的魅力》 在广袤的Minecraft世界里,玩家常常沉浸在创造与探索的乐趣中。然而,游戏内的一天20分钟(现实中的时间)对于某些玩家来说可能太快或太慢,无法满足他们对...

    chronos:Haskell时间库专注于性能

    时光 Chronos是Haskell的面向性能的时间库,它具有简单的API。 此库与库之间的主要区别是: Chronos在可能的情况下使用机器整数。 这意味着与时间相关的算术应该更快,但缺点是类型无法表示将来或过去很远的时间...

    chronos:众包日历,了解您所在城市的动态

    "Chronos: 众包日历,了解您所在城市的动态" 是一个基于JavaScript技术构建的项目,旨在通过众包方式收集并展示用户所在城市的各种活动信息。该项目名为 "chronos-master",暗示着其核心是时间管理和事件追踪,借鉴...

Global site tag (gtag.js) - Google Analytics