`
bit1129
  • 浏览: 1076920 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

【Kafka七】使用Kafka Consumer Offset Monitor 进行Kakfa监控

 
阅读更多

1. 获取Kafka Consumer Offset Monitor安装包

http://pan.baidu.com/s/1kT5KeQ7

 

 

2. Kafka Consumer Offset Monitor启动脚本kafkacom.sh

java -Xms128M -Xmx256M -Xss1024K -XX:PermSize=128m -XX:MaxPermSize=256m -cp KafkaOffsetMonitor-assembly-0.2.0.jar com.quantifind.kafka.offsetapp.OffsetGetterWeb --zk localhost:2181 --port 8086 --refresh 10.seconds --retain 7.days 1> kakfa.offset.monitor.logs.stdout.log 2>kafka.offset.monitor.logs.stderr.log &

 

3.启动Zookeeper、Kafka Brokers

4. 启动Kafka Consumer Offset Monitor

 

sh kafkacom.sh

 

5. 在浏览器中访问如下地址打开监控界面:

http://192.168.26.140:8086

 

6. 启动Producer和Consumer,写20000万条消息,刷新浏览器查看offset的变化,可以看到

 

 

7. Consumer Offsets表各个列的含义:

  • Topic:Topic的名字
  • Partition:Topic包含的分区,上例中,learn.topic.p8.r2有8个分区
  • Offset:Kafka Consumer已经消费的分区上的消息数
  • logSize: 已经写到该分区的消息数
  • Lag:还有多少消息数未读取(Lag = logSize-Offset)
  • Owner: 该分区位于哪个Broker上,上例中有三个Broker(consumer group name + hostname + broker.id)
  • Created: 分区创建时间
  • Last Seen: Offset和logSize数字最后一次更新时间

 

8. 注意的问题:

刚开始启动时,发现Lag为负数,这明显不对,但是当使用Producer和Consumer进行读写Kafka后,数字显示正常

 

 

参考:http://blog.csdn.net/lizhitao/article/details/27199863

  • 大小: 88.7 KB
分享到:
评论

相关推荐

    kafka监控工具KafkaOffsetMonitor.7z

    kafka监控工具KafkaOffsetMonitor afkaOffsetMonitor是Kafka的一款客户端消费监控工具,用来实时监控Kafka服务的Consumer以及它们所在的Partition中的Offset,我们可以浏览当前的消费者组,并且每个Topic的所有...

    Kafka常用命令总结.docx

    `__consumer_offsets`是Kafka内部用于存储消费者Group的offset信息的特殊Topic,其副本数可以根据需求进行调整。 11. **故障排查** 当遇到问题时,除了查看日志外,还可以参考官方文档和社区资源,如Kafka官网、...

    kafkaoffsetmonitor

    2. **数据获取模块**:利用 KafkaAdminClient 或者 KafkaConsumer API 来获取消费者的 offset 信息。 3. **存储模块**:将获取到的数据存储在内存或者数据库中,便于快速访问和更新。 4. **展示模块**:提供一个 Web...

    kafka 35道面试题和答案.docx

    设置 Kafka 最大消息大小涉及多个参数,包括 Broker 端的 `message.max.bytes` 和 `max.message.bytes`(topic 级别),以及 Consumer 端的 `fetch.message.max.bytes`,确保生产和消费的正常进行。此外,`replica....

    KafkaOffsetMonitor0.4.6

    这将使得用户在访问和使用监控界面时,能够获得更流畅的体验,同时减少潜在的浏览器兼容性和安全风险。 2. **添加Windows启动命令**:之前,Kafka Offset Monitor可能主要面向Unix/Linux系统提供启动脚本。现在,...

    kafka-map:给编程插上翅膀,给kafka装上导航。Gitee镜像 https

    topic监控 —— 查看分区数量、副本数量、存储大小、offset topic管理 —— 创建、删除、扩容 broker查看 —— Partitions as Leader、 Partitions as Follower consumer管理(查看、删除) 重置offset 消费消息 ...

    KafkaMonitor.zip

    KafkaOffsetMonitor(版本0.2.1)是Kafka的一款客户端消费监控工具,用来实时监控Kafka服务的Consumer以及它们所在的Partition中的Offset,我们可以浏览当前的消费者组,并且每个Topic的所有Partition的消费情况都...

Global site tag (gtag.js) - Google Analytics