一、部署zookeeper集群
1. 准备三台服务器,IP分别为: 192.168.86.130,192.168.86.131,192.168.86.132.
2.下载zookeeper压缩包,解压,在conf目录下增加zoo.cfg文件,文件内容可参考zoo_sample.cfg. 具体内容如下:
tickTime=2000
dataDir=/usr/local/zookeeper-3.6.2/data
clientPort=2181
initLimit=5
syncLimit=2
server.1=192.168.86.130:2888:3888
server.2=192.168.86.131:2888:3888
server.3=192.168.86.132:2888:3888
3. 分别启动三台zookeeper服务器: bin/zkServer.sh start
二、部署kafka集群。
1.kafka集群利用搭建好的zookeeper集群。
2.分别在三台机器上解压kafka的压缩包。
3.修改config/server.properties文件,增加以下容,注意有些属性在文件中已有,不能重复:
broker.id=130 #brokerId 每台机器需要设置不同的值。
offsets.topic.replication.factor=3 transaction.state.log.replication.factor=3 transaction.state.log.min.isr=2
4. 分别启动三台服务器:nohup bin/kafka-server-start.sh config/server.properties &
5. 利用JAVA客户端生产消息:
5.1 在工程的pom.xml文件中加入以下内容:
<dependency> <groupId>org.apache.kafka</groupId> <artifactId>kafka-clients</artifactId> <version>2.6.0</version> </dependency>
5.2 编写生产消息的代码:
public static void main(String[] args) { Properties props = new Properties(); props.put("bootstrap.servers", "192.168.86.130:9092,192.168.86.131:9092,192.168.86.132:9092"); props.put("acks", "all"); props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer"); props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer"); Producer<String, String> producer = new KafkaProducer<>(props); for (int i = 120; i < 130; i++) producer.send(new ProducerRecord<String, String>("kevin-topic-5", Integer.toString(i), Integer.toString(i))); producer.close(); }
相关推荐
**Kafka-Zookeeper集群配置详解** 在大数据处理和实时流计算领域,Apache Kafka与Zookeeper是两个非常重要的组件。Kafka作为一个高吞吐量、分布式的消息发布与订阅系统,广泛用于数据管道和实时数据流处理;而...
在本文中,我们将深入探讨如何将Kafka集群与Zookeeper集群整合配置,以实现稳定可靠的运行环境。 首先,理解Zookeeper的角色。Zookeeper在Kafka中的主要职责包括: 1. **元数据存储**:Kafka的 Topic、Partition、...
kafka 和 Zookeeper 集群部署技术手册 本文档旨在指导读者一步步搭建 Kafka 和 Zookeeper 集群的部署,涵盖了集群搭建、配置、启动等方面的详细信息。通过阅读本文档,读者可以快速搭建起一个功能齐全的 Kafka 和 ...
【标题】"kafka+zookeeper高可用集群搭建shell使用脚本"所涉及的知识点主要集中在构建高可用的Kafka和Zookeeper集群上,以及如何利用Shell脚本来自动化这个过程。Kafka是一个分布式流处理平台,而Zookeeper是Apache...
在部署Kafka集群时,首先需要安装Zookeeper集群。Zookeeper的安装过程通常包括解压下载的tar.gz文件,配置zoo.cfg文件,设置数据存储目录,以及启动Zookeeper服务。每个Zookeeper节点都需要知道集群中其他节点的地址...
在这个主题中,我们将深入探讨如何搭建Kafka和Zookeeper集群,以及这两个组件在实际应用中的作用。 首先,让我们了解一下Zookeeper。Zookeeper是Apache Hadoop项目的一个子项目,它为分布式应用程序提供一致性服务...
**Kafka与Zookeeper集群配置详解** 在大数据处理和实时流计算领域,Apache Kafka和Apache Zookeeper是两个不可或缺的组件。Kafka作为一个高吞吐量的分布式消息系统,用于处理实时数据流,而Zookeeper则作为一个...
Kafka、Zookeeper集群配置Demo
zookeeper配置、集群部署 kafka配置、集群部署 Window平台下
centos7下Redis哨兵集群和kafka集群和zookeeper集群搭建 http://blog.csdn.net/gaowenhui2008/article/details/71516901 https://cwiki.apache.org/confluence/display/KAFKA/Clients
随着业务的发展和技术的进步,现有的Zookeeper集群系统版本过低(当前版本为3.3.4),导致某些功能特性无法得到支持或表现不佳,这直接影响到了业务的正常运行和服务质量。为了提升系统的稳定性和扩展性,并充分利用...
然后在Kafka的配置文件`config/server.properties`中,设置`zookeeper.connect`参数为Zookeeper集群的连接字符串,这样Kafka就能与Zookeeper进行通信了。配置完成后,可以按照标准流程启动Kafka的Broker节点。 在...
这个Docker Compose 文件定义了一个包含Zookeeper和三个Kafka节点的服务集群。通过指定镜像、端口映射、环境变量和依赖关系等配置,实现了Zookeeper和Kafka的快速部署和集成。同时,在定义了一个名为"mynetwork"的...
zookeeper Linux 集群搭建流程 ZooKeeper 是一个广泛使用的分布式协调服务,主要用于管理和协调分布式系统中的各个节点。Linux 集群搭建是 ZooKeeper 的一种常见应用场景,本文将详细介绍 ZooKeeper Linux 集群搭建...
KAFKA_BROKER_ID : broker的ID,这个ID是集群的标识,不能重 复。 KAFKA_ZOOKEEPER_CONNECT:zookeeper的连接地址 KAFKA_LISTENERS:标识kafka服务运行在容器内的9092端口,因为没有指定host,所以是 0.0.0.0标识...
Zookeeper集群是一个分布式协调服务,由Apache开发,广泛应用于分布式计算环境,如Hadoop、HBase、Kafka等。在Windows环境下搭建Zookeeper集群,主要涉及以下步骤和知识点: 1. **Zookeeper安装**: 首先需要下载...
kafka集群类型: single broker(单节点单boker集群,亦即kafka只启一个broker消息中间件服务,producer、consumer、broker均通过zookeeper集群交换消息,具体可参考:http://exp-blog.com/2018/08/03/pid-2187/
1. **集群注册与发现**:Kafka的Broker节点会将自己注册到Zookeeper上,消费者和生产者通过Zookeeper发现可用的Broker。 2. **分区和副本的领导者选举**:Kafka中的每个主题(Topic)可以被分成多个分区(Partition...
zookeeper集群部署,kafka集群部署,kafka介绍,topic创建、删除、kafka监控