`
gaojingsong
  • 浏览: 1182711 次
  • 性别: Icon_minigender_1
  • 来自: 深圳
文章分类
社区版块
存档分类
最新评论

【KafkaOffsetMonitor安装部署】

阅读更多

KafkaOffsetMonitor功能:

1.从标题都可以看出来,Kafka Offset Monitor,是对consumer消费情况进行监控,并能列出每            个consumer offset,滞后数据。

2.消费者组列表

3.每个topic的所有parition列表(topic,pid,offset,logSize,lag,owner)

4.查看topic的历史消费信息.

 

1下载

  在安装KafkaOffsetMonitor管理平台时,我们需要先下载其安装包,其资源可以在Github上找到

 

2安装部署

  KafkaOffsetMonitor的安装部署较为简单,所有的资源都打包到一个JAR文件中了,因此,直接运行即可,省去了我们去配置。这里我们可以新建一个目录单独用于Kafka的监控目录,我这里新建一个kafka_monitor文件目录,然后我们在准备启动脚本,脚本内容如下所示:

#! /bin/bash

java -cp KafkaOffsetMonitor-assembly-0.2.0.jar \

 com.quantifind.kafka.offsetapp.OffsetGetterWeb \

 --zk ZookeeperAddress \

 --port 8089 \

 --refresh 10.seconds \

 --retain 1.days

 

  给大家解释以下这条启动命令的含义,首先我们需要指明运行Web监控的类,然后需要用到ZooKeeper,所有要填写ZK集群信息,接着是Web运行端口,页面数据刷新的时间以及保留数据的时间值。

 

3、启动

  启动步骤如下所示:

  • 步骤1:启动ZK   zkServer.sh start
  • 步骤2:启动Kafka服务(集群依次输入以下命令启动)

           ./kafka-server-start.sh config/server.properties &

 

  • 步骤3:启动Web监控服务

java -cp KafkaOffsetMonitor-assembly-0.2.0.jar \

 com.quantifind.kafka.offsetapp.OffsetGetterWeb \

 --zk dn1:2181,dn2:2181,dn3:2181 \

 --port 8089 \

 --refresh 10.seconds \

 

 --retain 1.days

 

  Web服务启动成功后,如下图所示:

4.KafkaOffsetMonitor运行预览

  下面,我们来使用Kafka代码生产消费一些消息,使用Web监控来浏览消息情况。这里直接预览演示结果,如下图所示:

5.总结

  在运行KafkaOffsetMonitor的JAR包时,需要确保启动参数的配置正确,以免启动出错,另外,Github的上的KafkaOffsetMonitor的JAR中的静态资源有些链接用到了Google的超链接,所有如果直接只用,若本地木有代理软件会启动出错,这里使用我所提供的JAR,这个JAR是经过静态资源改版后重新编译的使用本地静态资源。

  另外图中的一些参数的含义如下:

  • Topic:创建Topic名称
  • Partition:分区编号
  • Offset:表示该Parition已经消费了多少Message
  • LogSize:表示该Partition生产了多少Message
  • Lag:表示有多少条Message未被消费
  • Owner:表示消费者
  • Created:表示该Partition创建时间
  • Last Seen:表示消费状态刷新最新时间
0
1
分享到:
评论

相关推荐

    kafka0.10+之KafkaOffsetMonitor监控部署

    kafka 0.10.0 以后的版本offset信息都不会存在zookeeper中,而是在本地的进行存储,所以直接下载KafkaOffsetMonitor-assembly包启动,会导致看不见消费组的信息及offset动态关系图。因此需要手动编译源码,在老版的...

    Windows环境下kafka监控工具之kafkaOffsetMonitor的部署

    资源介绍了kafka的监控工具-kafkaOffsetMonitor在windodws环境下的部署,以kafkaOffsetMonitor_0.2.1版本举例说明了该工具在windows环境下如何部署及对kafka参数进行监控。

    kafka监控工具KafkaOffsetMonitor.rar

    - 易用性:无需复杂安装,配置简单,适合快速部署。 - 实时性:提供实时的offset和消费者状态信息。 - 可定制化:可以根据需求自定义报警规则。 **4. 结合其他监控工具** 尽管KafkaOffsetMonitor在消费者和offset...

    Kafka监控工具KafkaOffsetMonitor-assembly-0.4.6-SNAPSHOT.jar

    在部署KafkaOffsetMonitor时,确保其与Kafka集群在同一网络环境中,并且拥有足够的权限访问消费者的元数据信息。在运行过程中,KafkaOffsetMonitor会定期轮询Kafka的Metadata API,获取消费者组的信息,并将其展示在...

    kafkaOffsetMonitor.rar

    在Kafka 2.x版本中,它进行了重要的升级,解决了之前只能监控0.9.x版本的限制,从而为更广泛和最新的Kafka部署提供了有效的监控解决方案。 Kafka是Apache软件基金会开发的一个开源流处理平台,被广泛应用于大数据...

    KafkaOffsetMonitor-assembly-0.2.0.jar

    kafkaoffsetmonitor,用于kafka消息队列监控,查看topic信息、集群信息,简单的界面,无需部署,只需要执行命令即可运行

    KafkaOffsetMonitor-assembly-0.2.0 以及kafka基础文档

    安装和运行KafkaOffsetMonitor通常涉及以下步骤: 1. 下载`KafkaOffsetMonitor-assembly-0.2.0`包。 2. 配置连接到你的Kafka集群,包括broker地址、Zookeeper地址等。 3. 启动监控服务,通过浏览器访问提供的URL查看...

    大数据框架的部署

    为了确保系统的稳定运行,在部署前需确保已正确安装Oracle JDK,并且如果系统中存在OpenJDK,则需要将其卸载。以下将对每个组件的具体部署步骤进行详细阐述。 #### 二、Oracle JDK 安装与配置 由于Zookeeper、...

    cmdline-jmxclient-0.10.3.jar-KafkaOffsetMonitor-assembly-0.2.0.jar

    总的来说,这两个工具是针对Apache Kafka的管理和监控的实用工具,它们通过JMX接口与Kafka交互,帮助用户获取Kafka集群的运行状态,监控消费者组的消费情况,进而优化Kafka的部署和使用。了解和熟练使用这些工具对于...

    kafka监控工具KafkaOffsetMnitor angularjs和css

    - **启动服务**:部署完成后,通过浏览器访问指定URL,即可看到KafkaOffsetMonitor的界面并进行监控。 5. **优化与维护** - **监控阈值设定**:根据业务需求设定合适的消费者滞后阈值,避免因设置不当导致误报或...

    Kafka监控工具.zip

    `kafka-manager-1.3.3.15.zip`解压后,包含了一个可部署的Web应用,可以将其运行在支持Play Framework的服务器上。`Kafka-Manager`允许用户查看和操作Brokers(Kafka服务器)、topics、partitions和replicas的状态,...

    Kafka集群调优实战+分布式集群搭建,分布式集群搭建与调优实战,Kafka专家之路!课程内容全程实战,没有拖泥带水

    内容涵盖Kafka集群的核心组件讲解、集群架构设计、分布式集群搭建与伪集群配置,帮助读者快速上手Kafka环境部署。 通过实战案例,深入解析Java Consumer与Producer的高级用法,包括手动提交Offset、数据回溯、...

    kafka-manager最新编译版1.3.3.22,解决了异常Unknown offset schema version 3

    在部署Kafka-Manager 1.3.3.22时,用户可以利用压缩包内的kafka-manager-1.3.3.22文件,按照官方文档的指导进行配置和启动,轻松实现开箱即用。确保与你的Kafka集群版本匹配,以充分利用其提供的所有功能和修复。 ...

    深入理解Apache Kafka-初稿.pdf

    整体而言,《深入理解Apache Kafka-初稿》为读者提供了一套全面、系统的Kafka知识体系,从基础概念到安装部署、监控优化,再到源码分析和架构剖析,内容丰富,覆盖了Kafka应用开发和维护的方方面面。对于希望深入...

    kafka全家桶.zip

    总结,Kafka 0.11.0.2版本的全家桶不仅包含核心组件,还提供了监控工具和管理脚本,为用户提供了完整的部署和监控解决方案。理解并熟练掌握这些知识,将有助于在实际项目中更好地利用Kafka处理大数据流。

Global site tag (gtag.js) - Google Analytics