摘要: 消息中间件性能究竟哪家强? 带着这个疑问,我们消息队列测试小组对常见的三类消息产品(Kafka、RabbitMQ、RocketMQ)做了性能比较。
阿里云消息队列测试小组 出品
分布式系统中,我们广泛运用消息中间件进行系统间的数据交换,便于异步解耦。现在开源的消息中间件有很多,我们自家的产品 RocketMQ (阿里云消息队列(MQ)的内核) 也顺利开源,得到大家的关注。
那么,消息中间件性能究竟哪家强?
带着这个疑问,我们消息队列测试小组对常见的三类消息产品(Kafka、RabbitMQ、RocketMQ)做了性能比较。
Kafka是LinkedIn开源的分布式发布-订阅消息系统,目前归属于Apache定级项目。Kafka主要特点是基于Pull的模式来处理消息消费,追求高吞吐量,一开始的目的就是用于日志收集和传输。0.8版本开始支持复制,不支持事务,对消息的重复、丢失、错误没有严格要求,适合产生大量数据的互联网服务的数据收集业务。
RabbitMQ是使用Erlang语言开发的开源消息队列系统,基于AMQP协议来实现。AMQP的主要特征是面向消息、队列、路由(包括点对点和发布/订阅)、可靠性、安全。AMQP协议更多用在企业系统内,对数据一致性、稳定性和可靠性要求很高的场景,对性能和吞吐量的要求还在其次。
RocketMQ是阿里开源的消息中间件,它是纯Java开发,具有高吞吐量、高可用性、适合大规模分布式系统应用的特点。RocketMQ思路起源于Kafka,但并不是Kafka的一个Copy,它对消息的可靠传输及事务性做了优化,目前在阿里集团被广泛应用于交易、充值、流计算、消息推送、日志流式处理、binglog分发等场景。
测试目的
对比Kafka、RabbitMQ、RocketMQ发送小消息(124字节)的性能。这次压测我们只关注服务端的性能指标,所以压测的标准是:
不断增加发送端的压力,直到系统吞吐量不再上升,而响应时间拉长。这时服务端已出现性能瓶颈,可以获得相应的系统最佳吞吐量。
测试场景
在同步发送场景中,三个消息中间件的表现区分明显:
Kafka的吞吐量高达17.3w/s,不愧是高吞吐量消息中间件的行业老大。这主要取决于它的队列模式保证了写磁盘的过程是线性IO。此时broker磁盘IO已达瓶颈。
RocketMQ也表现不俗,吞吐量在11.6w/s,磁盘IO %util已接近100%。RocketMQ的消息写入内存后即返回ack,由单独的线程专门做刷盘的操作,所有的消息均是顺序写文件。
RabbitMQ的吞吐量5.95w/s,CPU资源消耗较高。它支持AMQP协议,实现非常重量级,为了保证消息的可靠性在吞吐量上做了取舍。我们还做了RabbitMQ在消息持久化场景下的性能测试,吞吐量在2.6w/s左右。
测试结论
在服务端处理同步发送的性能上,Kafka>RocketMQ>RabbitMQ。
作为专业的阿里云消息队列测试小组,不禁想问,阿里云的MQ和Kafka相比,哪家强?
阿里云消息队列 Kafka VS Apache Kafka
阿里云消息队列 MQ 推出 Kafka 企业级消息服务(MQ-Kafka),全面融合 Kafka 开源生态,兼容 Kafka API,做到无缝迁移,打造更安全、更可靠、更易运维的 Kafka 企业级消息服务。
测试小组此次也对Apache Kafka和消息队列 Kafka 企业级消息服务在性能、可用性、可靠性等方面做了如下对比:
阿里云 MQ-Kafka 的多方优势:
无缝迁移
业务系统基于现有的 Kafka 代码与生态进行开发,无需任何改造,即可无缝迁移到阿里云消息队列提供的 Kafka 消息服务。
安全防护
Aliware MQ 提供的 Kafka 消息服务利用 SASL 机制对用户身份进行认证,并利用 SSL 对通道进行加密,提供更加安全的消息服务。
高可靠/高可用
消息持久化落盘到消息队列,支持数多副本以及主备自动切换,可靠性达99.99999999%,服务可用性高达99.9%。
高性能
支持在万级 Topic,以及海量的消息堆积的情况下,也始终保持超高的性能。
统一运维
提供一整套包括资源申请、资源授权、消息堆积查询、消息全链路轨迹、监控告警等运维服务,提升用户的产品体验。
消息互通
您可以通过 Kafka Client 发送消息,MQ Client 订阅消息。反之亦然,真正做到 Aliware MQ 与 Kafka 消息完全互通。
免费试用
Kafka 企业级消息服务正在公测,用户可免费使用。
立刻去了解Kafka的接入方式吧,无语伦比的简单~而且现在还免费哟~
关于 阿里云消息队列 MQ,立即查看详情~
本文为云栖社区原创内容,未经允许不得转载,如需转载请发送邮件至yqeditor@list.alibaba-inc.com
相关推荐
上一期测试主要关注了三款消息中间件(Kafka、RabbitMQ、RocketMQ)在简单消息发送场景下的性能,而本期则模拟了一个更为实际的业务场景:消息的发送和订阅并存,并支持多个订阅者订阅特定消息。 首先,我们要理解...
RabbitMQ、RocketMQ、Kafka、ActiveMQ 消息中间件常见的面试题目 了解消息中间件的使用场景是非常重要的,面试官可能会问你为什么使用消息队列,消息队列都有哪些使用场景,然后你项目里具体是什么场景,说说你在这...
ActivemQ是Apache的一个开源项目,它是基于Java语言的高性能消息中间件。 - **特性**: - **多种消息模型**: 支持发布/订阅、点对点等消息模型。 - **高级特性**: 支持事务处理、消息优先级排序等高级功能。 - **...
消息中间件 ActiveMQ RABBITMQ rocketMq kafka ActiveM]q消息中间件 ActiveMQ RABBITMQ rocketMq kafka ActiveM]q
消息中间件技术选型,ActiveMQ、Apollo、RabbitMQ、RocketMQ、Kafka、Redis、ZeroMQ多维护对比分析
### 消息中间件RabbitMQ相关知识点 #### 一、消息队列(MQ)概述 **1.1 MQ的概念** MQ(Message Queue),即消息队列,是一种用于实现进程间通信的技术。它通过在消息的生产者和消费者之间提供一个先进先出(FIFO...
本篇文章将深入探讨四种常用的消息中间件:RabbitMQ、ActiveMQ、RocketMQ和Kafka,以及它们在实际应用中的特点和使用经验。 首先,RabbitMQ是一款基于AMQP(Advanced Message Queuing Protocol)协议的开源消息...
4. RocketMQ:阿里巴巴开源的消息中间件,已被Apache基金会接纳,适合大规模分布式系统。 四、消息中间件工作原理 1. 生产者:生产者是消息的源头,负责将消息发送到消息中间件。 2. 消费者:消费者从消息中间件...
RocketMQ与其他MQ产品如Kafka、RabbitMQ等在性能、功能、易用性等方面有各自的特点和适用场景。 **2. 快速入门** 包括环境准备、安装、启动、测试和关闭RocketMQ的步骤。 **3. 消息样例** * **普通消息**:基础...
五、常见消息中间件对比 1. RabbitMQ:基于AMQP协议,支持多种语言,适合小型项目和开发测试。 2. Apache Kafka:专为大规模数据流设计,适合实时数据处理和日志收集。 3. RocketMQ:阿里巴巴开源,适用于大规模...
**RabbitMQ**是一款基于AMQP(Advanced Message Queuing Protocol)协议的开源消息中间件。该协议是应用层协议的一个开放标准,专为面向消息的中间件设计。其主要特点包括: - **面向消息、队列、路由**:支持点对点...
本书《分布式消息中间件实践_倪炜(著)》深入探讨了四种主流的消息队列(Message Queue,MQ)系统:RabbitMQ、ActiveMQ、Kafka以及RocketMQ,旨在帮助读者理解和掌握这些工具的使用方法。 首先,RabbitMQ是一种基于...
2. 掌握RabbitMQ、RocketMQ、Kafka这三款主流的消息中间件的架构、模型和使用(开发、 安装、集群部署、运维、监控等) 3. 掌握消息的可靠性、幂等性、顺序消息、延迟消息、事务消息等进阶的知识,以及大规模生产 ...
本文来自于csdn,文章分享了分布式...现在生产中用的最多的消息队列有Activemq,rabbitmq,kafka,rocketmq等。 不过这个题目写的有点大。为什么这样说呢,因为虽然这样写,但实际上我这边是以Jms规范和rocketmq为主来
除了ActiveMQ,还有RabbitMQ、Kafka、RocketMQ等知名消息中间件,它们各有特点,如RabbitMQ基于AMQP协议,适合微服务架构;Kafka则在大数据实时处理领域表现出色。 总结,Java消息中间件,尤其是ActiveMQ,是构建高...
常见的实现JMS规范的消息中间件产品包括ActiveMQ、RocketMQ、RabbitMQ、HornetQ等。每种消息中间件各有其特点和适用场景,开发者可以根据项目的具体需求和特性来选择合适的中间件产品。 消息中间件在分布式系统中的...
在当前的消息中间件产品市场中,存在多种选择,包括ActiveMQ、RabbitMQ、RocketMQ、Kafka、ZeroMQ等。每种产品都有其优缺点,本文将对这些产品进行比较,阐述Kafka集群方案选型的必要性和可行性。 一、消息中间件...
常见的消息中间件有JMS、AMQP、ActiveMQ、RabbitMQ、Kafka和RocketMQ等。了解这些不同类型的中间件可以帮助我们选择最适合特定场景的解决方案。 2. AMQP协议介绍: AMQP(Advanced Message Queuing Protocol)是一...