KafkaOffsetMonitor功能:
1.从标题都可以看出来,Kafka Offset Monitor,是对consumer消费情况进行监控,并能列出每 个consumer offset,滞后数据。
2.消费者组列表
3.每个topic的所有parition列表(topic,pid,offset,logSize,lag,owner)
4.查看topic的历史消费信息.
1下载
在安装KafkaOffsetMonitor管理平台时,我们需要先下载其安装包,其资源可以在Github上找到
2安装部署
KafkaOffsetMonitor的安装部署较为简单,所有的资源都打包到一个JAR文件中了,因此,直接运行即可,省去了我们去配置。这里我们可以新建一个目录单独用于Kafka的监控目录,我这里新建一个kafka_monitor文件目录,然后我们在准备启动脚本,脚本内容如下所示:
#! /bin/bash
java -cp KafkaOffsetMonitor-assembly-0.2.0.jar \
com.quantifind.kafka.offsetapp.OffsetGetterWeb \
--zk ZookeeperAddress \
--port 8089 \
--refresh 10.seconds \
--retain 1.days
给大家解释以下这条启动命令的含义,首先我们需要指明运行Web监控的类,然后需要用到ZooKeeper,所有要填写ZK集群信息,接着是Web运行端口,页面数据刷新的时间以及保留数据的时间值。
3、启动
启动步骤如下所示:
- 步骤1:启动ZK zkServer.sh start
- 步骤2:启动Kafka服务(集群依次输入以下命令启动)
./kafka-server-start.sh config/server.properties &
- 步骤3:启动Web监控服务
java -cp KafkaOffsetMonitor-assembly-0.2.0.jar \
com.quantifind.kafka.offsetapp.OffsetGetterWeb \
--zk dn1:2181,dn2:2181,dn3:2181 \
--port 8089 \
--refresh 10.seconds \
--retain 1.days
Web服务启动成功后,如下图所示:
4.KafkaOffsetMonitor运行预览
下面,我们来使用Kafka代码生产消费一些消息,使用Web监控来浏览消息情况。这里直接预览演示结果,如下图所示:
5.总结
在运行KafkaOffsetMonitor的JAR包时,需要确保启动参数的配置正确,以免启动出错,另外,Github的上的KafkaOffsetMonitor的JAR中的静态资源有些链接用到了Google的超链接,所有如果直接只用,若本地木有代理软件会启动出错,这里使用我所提供的JAR,这个JAR是经过静态资源改版后重新编译的使用本地静态资源。
另外图中的一些参数的含义如下:
- Topic:创建Topic名称
- Partition:分区编号
- Offset:表示该Parition已经消费了多少Message
- LogSize:表示该Partition生产了多少Message
- Lag:表示有多少条Message未被消费
- Owner:表示消费者
- Created:表示该Partition创建时间
- Last Seen:表示消费状态刷新最新时间
相关推荐
kafka 0.10.0 以后的版本offset信息都不会存在zookeeper中,而是在本地的进行存储,所以直接下载KafkaOffsetMonitor-assembly包启动,会导致看不见消费组的信息及offset动态关系图。因此需要手动编译源码,在老版的...
资源介绍了kafka的监控工具-kafkaOffsetMonitor在windodws环境下的部署,以kafkaOffsetMonitor_0.2.1版本举例说明了该工具在windows环境下如何部署及对kafka参数进行监控。
- 易用性:无需复杂安装,配置简单,适合快速部署。 - 实时性:提供实时的offset和消费者状态信息。 - 可定制化:可以根据需求自定义报警规则。 **4. 结合其他监控工具** 尽管KafkaOffsetMonitor在消费者和offset...
在部署KafkaOffsetMonitor时,确保其与Kafka集群在同一网络环境中,并且拥有足够的权限访问消费者的元数据信息。在运行过程中,KafkaOffsetMonitor会定期轮询Kafka的Metadata API,获取消费者组的信息,并将其展示在...
在Kafka 2.x版本中,它进行了重要的升级,解决了之前只能监控0.9.x版本的限制,从而为更广泛和最新的Kafka部署提供了有效的监控解决方案。 Kafka是Apache软件基金会开发的一个开源流处理平台,被广泛应用于大数据...
kafkaoffsetmonitor,用于kafka消息队列监控,查看topic信息、集群信息,简单的界面,无需部署,只需要执行命令即可运行
安装和运行KafkaOffsetMonitor通常涉及以下步骤: 1. 下载`KafkaOffsetMonitor-assembly-0.2.0`包。 2. 配置连接到你的Kafka集群,包括broker地址、Zookeeper地址等。 3. 启动监控服务,通过浏览器访问提供的URL查看...
为了确保系统的稳定运行,在部署前需确保已正确安装Oracle JDK,并且如果系统中存在OpenJDK,则需要将其卸载。以下将对每个组件的具体部署步骤进行详细阐述。 #### 二、Oracle JDK 安装与配置 由于Zookeeper、...
总的来说,这两个工具是针对Apache Kafka的管理和监控的实用工具,它们通过JMX接口与Kafka交互,帮助用户获取Kafka集群的运行状态,监控消费者组的消费情况,进而优化Kafka的部署和使用。了解和熟练使用这些工具对于...
- **启动服务**:部署完成后,通过浏览器访问指定URL,即可看到KafkaOffsetMonitor的界面并进行监控。 5. **优化与维护** - **监控阈值设定**:根据业务需求设定合适的消费者滞后阈值,避免因设置不当导致误报或...
`kafka-manager-1.3.3.15.zip`解压后,包含了一个可部署的Web应用,可以将其运行在支持Play Framework的服务器上。`Kafka-Manager`允许用户查看和操作Brokers(Kafka服务器)、topics、partitions和replicas的状态,...
内容涵盖Kafka集群的核心组件讲解、集群架构设计、分布式集群搭建与伪集群配置,帮助读者快速上手Kafka环境部署。 通过实战案例,深入解析Java Consumer与Producer的高级用法,包括手动提交Offset、数据回溯、...
整体而言,《深入理解Apache Kafka-初稿》为读者提供了一套全面、系统的Kafka知识体系,从基础概念到安装部署、监控优化,再到源码分析和架构剖析,内容丰富,覆盖了Kafka应用开发和维护的方方面面。对于希望深入...
总结,Kafka 0.11.0.2版本的全家桶不仅包含核心组件,还提供了监控工具和管理脚本,为用户提供了完整的部署和监控解决方案。理解并熟练掌握这些知识,将有助于在实际项目中更好地利用Kafka处理大数据流。
在部署Kafka-Manager 1.3.3.22时,用户可以利用压缩包内的kafka-manager-1.3.3.22文件,按照官方文档的指导进行配置和启动,轻松实现开箱即用。确保与你的Kafka集群版本匹配,以充分利用其提供的所有功能和修复。 ...