`

rocketmq

    博客分类:
  • mq
 
阅读更多

原创文章,转载请注明出处:http://jameswxx.iteye.com/blog/2091966

我想说,真tm蛋疼,2.0和3.0架构变化挺大的,nameserver有必要吗?zookeeper不是挺好的吗?

 

 

一 nameserver
相对来说,nameserver的稳定性非常高。原因有二:
1 nameserver互相独立,彼此没有通信关系,单台nameserver挂掉,不影响其他nameserver,即使全部挂掉,也不影响业务系统使用,这点类似于dubbo的zookeeper。
2 nameserver不会有频繁的读写,所以性能开销非常小,稳定性很高。
 
二 broker
1 与nameserver关系
  • 连接
     单个broker和所有nameserver保持长连接
  • 心跳
     心跳间隔:每隔30秒(此时间无法更改)向所有nameserver发送心跳,心跳包含了自身的topic配置信息。
     心跳超时:nameserver每隔10秒钟(此时间无法更改),扫描所有还存活的broker连接,若某个连接2分钟内(当前时间与最后更新时间差值超过2分钟,此时间无法更改)没有发送心跳数据,则断开连接。
  • 断开
     时机:broker挂掉;心跳超时导致nameserver主动关闭连接
     动作:一旦连接断开,nameserver会立即感知,更新topc与队列的对应关系,但不会通知生产者和消费者
 
2 负载均衡
  • 一个topic分布在多个broker上,一个broker可以配置多个topic,它们是多对多的关系。
  • 如果某个topic消息量很大,应该给它多配置几个队列,并且尽量多分布在不同broker上,减轻某个broker的压力。
  • topic消息量都比较均匀的情况下,如果某个broker上的队列越多,则该broker压力越大。
 
3 可用性
   由于消息分布在各个broker上,一旦某个broker宕机,则该broker上的消息读写都会受到影响。所以rocketmq提供了master/slave的结构,salve定时从master同步数据,如果master宕机,则slave提供消费服务,但是不能写入消息,此过程对应用透明,由rocketmq内部解决。
这里有两个关键点:
  • 一旦某个broker master宕机,生产者和消费者多久才能发现?受限于rocketmq的网络连接机制,默认情况下,最多需要30秒,但这个时间可由应用设定参数来缩短时间。这个时间段内,发往该broker的消息都是失败的,而且该broker的消息无法消费,因为此时消费者不知道该broker已经挂掉。
  • 消费者得到master宕机通知后,转向slave消费,但是slave不能保证master的消息100%都同步过来了,因此会有少量的消息丢失。但是消息最终不会丢的,一旦master恢复,未同步过去的消息会被消费掉。
 
4 可靠性
  • 所有发往broker的消息,有同步刷盘和异步刷盘机制,总的来说,可靠性非常高
  • 同步刷盘时,消息写入物理文件才会返回成功,因此非常可靠
  • 异步刷盘时,只有机器宕机,才会产生消息丢失,broker挂掉可能会发生,但是机器宕机崩溃是很少发生的,除非突然断电
5 消息清理
  • 扫描间隔
     默认10秒,由broker配置参数cleanResourceInterval决定
  • 空间阈值
     物理文件不能无限制的一直存储在磁盘,当磁盘空间达到阈值时,不再接受消息,broker打印出日志,消息发送失败,阈值为固定值85%
  • 清理时机
     默认每天凌晨4点,由broker配置参数deleteWhen决定;或者磁盘空间达到阈值
  • 文件保留时长
     默认72小时,由broker配置参数fileReservedTime决定
 
 
6 读写性能
  • 文件内存映射方式操作文件,避免read/write系统调用和实时文件读写,性能非常高
  • 永远一个文件在写,其他文件在读
  • 顺序写,随机读
  • 利用linux的sendfile机制,将消息内容直接输出到sokect管道,避免系统调用
7 系统特性
  • 大内存,内存越大性能越高,否则系统swap会成为性能瓶颈
  • IO密集
  • cpu load高,使用率低,因为cpu占用后,大部分时间在IO WAIT
  • 磁盘可靠性要求高,为了兼顾安全和性能,采用RAID10阵列
  • 磁盘读取速度要求快,要求高转速大容量磁盘
 
三 消费者
1 与nameserver关系
  • 连接
     单个消费者和一台nameserver保持长连接,定时查询topic配置信息,如果该nameserver挂掉,消费者会自动连接下一个nameserver,直到有可用连接为止,并能自动重连。
  • 心跳
与nameserver没有心跳
  • 轮询时间
默认情况下,消费者每隔30秒从nameserver获取所有topic的最新队列情况,这意味着某个broker如果宕机,客户端最多要30秒才能感知。该时间由DefaultMQPushConsumer的pollNameServerInteval参数决定,可手动配置。
 
2 与broker关系
  • 连接
单个消费者和该消费者关联的所有broker保持长连接。
  • 心跳
默认情况下,消费者每隔30秒向所有broker发送心跳,该时间由DefaultMQPushConsumer的heartbeatBrokerInterval参数决定,可手动配置。broker每隔10秒钟(此时间无法更改),扫描所有还存活的连接,若某个连接2分钟内(当前时间与最后更新时间差值超过2分钟,此时间无法更改)没有发送心跳数据,则关闭连接,并向该消费者分组的所有消费者发出通知,分组内消费者重新分配队列继续消费
  • 断开
时机:消费者挂掉;心跳超时导致broker主动关闭连接
动作:一旦连接断开,broker会立即感知到,并向该消费者分组的所有消费者发出通知,分组内消费者重新分配队列继续消费
 
3 负载均衡
集群消费模式下,一个消费者集群多台机器共同消费一个topic的多个队列,一个队列只会被一个消费者消费。如果某个消费者挂掉,分组内其它消费者会接替挂掉的消费者继续消费。
 
4 消费机制
  • 本地队列
        消费者不间断的从broker拉取消息,消息拉取到本地队列,然后本地消费线程消费本地消息队列,只是一个异步过程,拉取线程不会等待本地消费线程,这种模式实时性非常高。对消费者对本地队列有一个保护,因此本地消息队列不能无限大,否则可能会占用大量内存,本地队列大小由DefaultMQPushConsumer的pullThresholdForQueue属性控制,默认1000,可手动设置
  • 轮询间隔
     消息拉取线程每隔多久拉取一次?间隔时间由DefaultMQPushConsumer的pullInterval属性控制,默认为0,可手动设置。
  • 消息消费数量
     监听器每次接受本地队列的消息是多少条?这个参数由DefaultMQPushConsumer的consumeMessageBatchMaxSize属性控制,默认为1,可手动设置。
 
5 消费进度存储
     每隔一段时间将各个队列的消费进度存储到对应的broker上,该时间由DefaultMQPushConsumer的persistConsumerOffsetInterval属性控制,默认为5秒,可手动设置。
 
6 如果一个topic在某broker上有3个队列,一个消费者消费这3个队列,那么该消费者和这个broker有几个连接?
     一个连接,消费单位与队列相关,消费连接只跟broker相关,事实上,消费者将所有队列的消息拉取任务放到本地的队列,挨个拉取,拉取完毕后,又将拉取任务放到队尾,然后执行下一个拉取任务
 
 
四 生产者
1 与nameserver关系
  • 连接
     单个生产者者和一台nameserver保持长连接,定时查询topic配置信息,如果该nameserver挂掉,生产者会自动连接下一个nameserver,直到有可用连接为止,并能自动重连。
  • 轮询时间
默认情况下,生产者每隔30秒从nameserver获取所有topic的最新队列情况,这意味着某个broker如果宕机,生产者最多要30秒才能感知,在此期间,发往该broker的消息发送失败。该时间由DefaultMQProducerpollNameServerInteval参数决定,可手动配置。
  • 心跳
与nameserver没有心跳
 
2 与broker关系
  • 连接
单个生产者和该生产者关联的所有broker保持长连接。
  • 心跳
默认情况下,生产者每隔30秒向所有broker发送心跳,该时间由DefaultMQProducerheartbeatBrokerInterval参数决定,可手动配置。broker每隔10秒钟(此时间无法更改),扫描所有还存活的连接,若某个连接2分钟内(当前时间与最后更新时间差值超过2分钟,此时间无法更改)没有发送心跳数据,则关闭连接。
  • 连接断开
移除broker上的生产者信息
 
3 负载均衡
     生产者时间没有关系,每个生产者向队列轮流发送消息

 

分享到:
评论

相关推荐

    rocketmq安装包及RocketMQ 控制台JAR包

    RocketMQ 是一款开源的分布式消息中间件,由阿里巴巴开发并贡献给Apache基金会,它主要用于解决大规模分布式系统中的异步处理和解耦问题。本话题主要围绕RocketMQ的安装以及RocketMQ控制台JAR包的使用进行详细介绍。...

    rocketmq-console RocketMQ 控制台

    RocketMQ是阿里巴巴开源的一款分布式消息中间件,广泛应用于大数据、实时计算、微服务等领域。RocketMQ Console是RocketMQ的管理控制台,它提供了一个图形化的界面,方便用户监控和管理RocketMQ集群的状态,进行消息...

    rocketmq可视化界面,rocketmq-console

    RocketMQ是一款开源的消息中间件,由阿里巴巴开发并贡献给Apache基金会,它被广泛应用于分布式系统中,用于处理大规模的消息传递。RocketMQConsole是RocketMQ的一个重要组成部分,它提供了可视化的管理界面,使得...

    rocketmq管理工具,项目之前名字rocketmq-console后来项目独立并更名为rocketmq-dashboard

    RocketMQ管理工具,原名为`rocketmq-console`,在发展过程中独立成为一个单独的项目,并更名为`rocketmq-dashboard`。这个工具是由阿里巴巴开源出来的一个强大且直观的管理界面,旨在简化RocketMQ消息中间件的监控、...

    RocketMQ-Connect 二次开发源码

    RocketMQ-Connect 二次开发源码。RocketMQ-Connect 二次开发源码。RocketMQ-Connect 二次开发源码。RocketMQ-Connect 二次开发源码。RocketMQ-Connect 二次开发源码。RocketMQ-Connect 二次开发源码。RocketMQ-...

    rocketmq-5.1.3.zip

    RocketMQ是阿里巴巴开源的一款分布式消息中间件,广泛应用于大数据、实时计算、微服务等领域,具有高可用、高并发、低延迟等特性。RocketMQ 5.1.3是该产品的一个重要版本,提供了诸多增强和优化,旨在提高性能和稳定...

    rocketmq安装包,rocketmq-all-5.1.3-bin-release

    RocketMQ是阿里巴巴开源的一款分布式消息中间件,广泛应用于大规模分布式系统中的消息传递。RocketMQ具有高可用、高并发、低延迟、稳定可靠等特性,支持发布/订阅模式和点对点模式的消息传递,适用于交易系统、...

    rocketmq可视化控制台最新版 rocketmq-console-ng-2.x

    RocketMQ是一款开源的消息中间件,由阿里巴巴开发并贡献给Apache软件基金会,被广泛应用于大数据、实时计算、微服务等场景。RocketMQ的核心功能包括消息发送与接收、消息队列、消息回溯、高可用保障、分布式事务等。...

    宝塔部署RocketMQ+可视化面板

    【宝塔部署RocketMQ+可视化面板】:在IT行业中,RocketMQ是一款由阿里巴巴开源的分布式消息中间件,广泛应用于大数据处理、实时交易等场景。它提供了高可用、高并发的消息传输能力,支持发布/订阅模式和点对点模式,...

    rocketmq监控需要的安装包

    RocketMQ是一款高性能、分布式的消息中间件,常用于大型分布式系统中的消息传递。Prometheus是一款流行的开源监控和警报工具,可以收集并存储时间序列数据,为包括RocketMQ在内的各种服务提供详细的监控。在这个场景...

    rocketmq-dashboard.zip

    RocketMQ Dashboard 是一个基于Web的监控和管理工具,主要用于阿里巴巴开源的分布式消息中间件RocketMQ。RocketMQ是一款高效、稳定、可伸缩的分布式消息系统,广泛应用于大数据、实时计算、微服务等领域。RocketMQ ...

    rocketmq-console.rar

    RocketMQ是一款由阿里巴巴开源的分布式消息中间件,它在处理高并发、大数据量的消息传递方面表现出色。RocketMQ Console是其官方提供的一个图形化管理工具,用于方便运维人员监控和管理RocketMQ集群的状态。这个...

    rocketmq总结.ppt

    RocketMQ 是一个开源的分布式消息中间件,常用于构建高可用、高可靠的消息传递系统。在本文中,我们将深入探讨 RocketMQ 的应用、安装过程以及使用方法,以便更好地理解和掌握这个强大的工具。 首先,让我们来看...

    rocketmq-all-4.8.0-bin-release

    安装 RocketMQ 1. 下载 rocketmq 二进制文件 wget --no-check-certificate https://dlcdn.apache.org/rocketmq/4.9.2/rocketmq-all-4.9.2-bin-release.zip 2. 解压缩 rocketmq 将 rocketmq 解压到 /usr/local/ 目录 ...

    rocketMQ-master.zip

    RocketMQ是一款由阿里巴巴开源的分布式消息中间件,它在大规模分布式系统中被广泛用于实现可靠的消息传递和数据交换。RocketMQ的设计目标是提供高吞吐量、低延迟、高可用性和可扩展性的消息服务。本压缩包“rocketMQ...

    rocketmq-dashboard可视化界面管理工具

    RocketMQ-Dashboard是一款专为Apache RocketMQ设计的可视化管理工具,它允许用户通过Web界面来监控、管理和操作RocketMQ集群,极大地简化了RocketMQ的日常运维工作。在本资源中,您将找到一个可以直接启动的jar包,...

    springboot整合rocketmq源码

    【标题】:SpringBoot整合RocketMQ源码解析 在当今的微服务架构中,消息队列(Message Queue)已经成为解耦、异步处理以及提高系统可靠性的关键组件。本主题将深入探讨如何在SpringBoot应用中整合Apache RocketMQ,...

    Rocketmq-Console源码下载

    Rocketmq-Console是Apache RocketMQ项目的一个重要组件,主要用于提供RocketMQ消息中间件的监控与管理界面。在本文中,我们将深入探讨Rocketmq-Console的源码,了解其设计思想和实现机制,以及如何解决从GitHub下载...

    RocketMQ讲义-03.pdf

    **RocketMQ基础知识与架构** RocketMQ是阿里巴巴开源的一款分布式消息中间件,广泛应用于大数据、实时计算、微服务等领域。本文将深入探讨RocketMQ的核心概念、优缺点、安装配置以及高级特性。 **1. MQ介绍** * *...

    rocketmq-client-3.6.2.Final-API文档-中文版.zip

    赠送jar包:rocketmq-client-3.6.2.Final.jar; 赠送原API文档:rocketmq-client-3.6.2.Final-javadoc.jar; 赠送源代码:rocketmq-client-3.6.2.Final-sources.jar; 包含翻译后的API文档:rocketmq-client-...

Global site tag (gtag.js) - Google Analytics