创建主题(4个分区,2个副本)
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 2 --partitions 4 --topic test
查询集群描述
bin/kafka-topics.sh --describe --zookeeper
生产者
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test
消费者
bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test
新生产者(支持0.9版本+)
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test --producer.config config/producer.properties
新消费者(支持0.9版本+)
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --new-consumer --from-beginning --consumer.config config/consumer.properties
新消费者列表查询(支持0.9版本+)
bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server localhost:9092 --list
显示某个消费组的消费详情(仅支持offset存储在zookeeper上的)
bin/kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --zkconnect localhost:2181 --group test
显示某个消费组的消费详情(支持0.9版本+)
bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server localhost:9092 --describe --group test-consumer-group
平衡leader
bin/kafka-preferred-replica-election.sh --zookeeper zk_host:port/chroot
kafka自带压测命令
bin/kafka-producer-perf-test.sh --topic test --num-records 100 --record-size 1 --throughput 100 --producer-props bootstrap.servers=localhost:9092
转自:
http://orchome.com/454
分享到:
相关推荐
### Kafka学习详细文档笔记 #### 一、入门 **1、简介** Kafka是由LinkedIn开源的一款分布式的流处理平台,其核心功能在于消息传递。它能够处理大量的实时数据流,并且具备高性能、高吞吐量的特点。Kafka采用发布...
kafka文档,学习资料,个人笔记,学习如何搭建Kafka,命令使用,Kafka原理,Java api
通过`jps`和`netstat`命令检查Kafka和Zookeeper是否正常运行。 二、集群部署 2.1 规划 对于集群部署,规划涉及多台CentOS 7.5服务器,每台都需要JDK和Kafka,Zookeeper集群由三个节点组成,IP分别为172.16.6.14-16...
【大数据之Kafka学习】 Kafka是一个分布式消息系统,由LinkedIn开发并贡献给Apache基金会,成为其顶级项目。它主要用于处理大规模实时数据流,适用于多种场景,如Hadoop的批处理系统、实时处理系统、流处理引擎(如...
7. **验证**:使用 Kafka 提供的命令工具 `kafka-topics.sh` 创建 Topic,`kafka-console-producer.sh` 和 `kafka-console-consumer.sh` 测试生产与消费消息。 #### Kafka 单机版部署示例 1. **配置 server....
2. 配置环境变量:将Kafka的bin目录添加到系统的PATH环境变量中,以便于执行Kafka的相关命令。 3. 设置配置文件:修改配置文件server.properties,配置包括broker ID、端口、日志目录、Zookeeper连接等信息。 4. ...
- 启动应用,执行 `./bin/kafka-manager` 或通过 `sbt run` 命令启动。 - 访问预设的 Web 端口(默认为 9000),即可看到 Kafka-Manager 的界面。 3. **使用指南** - **添加集群**:在管理界面,点击“添加集群...
### Kafka安装与部署详解 #### 一、Kafka简介 Apache Kafka是一款开源的消息队列中间件,主要用于构建实时...随着对Kafka的深入学习,您还可以探索更多高级特性和应用场景,进一步发挥其在数据流处理领域的强大能力。
Flink消费Kafka数据 Flink 是一种大数据处理引擎,可以消费 Kafka 数据。本文将介绍如何使用 Flink 消费 ...通过本实验,可以学习到 Flink 和 Kafka 的基本使用方法,并且可以应用于大数据处理和实时数据处理等领域。
**KAFKA分布式消息系统在Windows环境下的搭建与应用** KAFKA是一个高吞吐量的分布式消息系统,由LinkedIn开发并开源,现在是Apache软件基金会的...通过不断学习和实践,我们可以更好地掌握Kafka这一高效的消息中间件。
总的来说,了解和熟练掌握这些基本的Kafka命令和操作对于日常管理和维护Kafka集群至关重要。随着Kafka的使用深入,可能还需要学习更高级的配置和调优技巧,以及如何利用各种工具进行监控和故障排除。
**Kafka安装与配置指南** Kafka是一款分布式流处理平台,由LinkedIn开发并贡献给了Apache软件基金...深入学习Kafka的高可用性、容错机制、数据持久化、消费者组等特性,将有助于更好地利用Kafka构建实时数据处理系统。
Kafka是一种分布式流处理平台,由LinkedIn开发并开源,现在是Apache软件基金会的顶级项目。它主要用于构建实时数据管道和流...这个压缩包提供了一套完整的流程,帮助你快速上手Kafka,是学习和部署Kafka的宝贵资源。
4. 启动 Kafka:在 Kafka 根目录下运行 `bin/kafka-server-start.sh config/server.properties` 命令启动 Kafka 服务。 二、Kafka 概念与组件 1. 主题(Topic):主题是 Kafka 存储消息的基本单元,可以理解为...
- 添加Kafka的bin目录到系统的PATH环境变量,这样可以在命令行中直接运行Kafka命令。 - 修改`config/server.properties`配置文件: - `broker.id=1`:设置当前broker的唯一标识,通常在单机环境中设为1。 - `...
**Kafka概述** Apache Kafka是一款高性能、分布式的消息中间件,由LinkedIn开发并开源,后来成为Apache软件基金会的顶级项目。...通过学习这门Kafka课程,你可以掌握如何利用Kafka解决实际问题,提升数据处理能力。
3. **创建主题**: 使用`bin/kafka-topics.sh`命令创建Kafka主题,例如`bin/kafka-topics.sh --create --topic my-topic --partitions 3 --replication-factor 2 --if-not-exists --zookeeper localhost:2181`。...
在单机环境中,Kafka主要用于学习和测试。以下是搭建步骤: 1. **下载安装**:首先,你需要从Apache官方网站下载Kafka的最新稳定版本,并解压到本地目录。 2. **配置环境变量**:将Kafka的安装路径添加到系统环境...