`
qingwei201314
  • 浏览: 168205 次
  • 性别: Icon_minigender_1
  • 来自: 深圳
社区版块
存档分类
最新评论

Kafka zookeeper 集群

 
阅读更多

一、部署zookeeper集群

1. 准备三台服务器,IP分别为: 192.168.86.130,192.168.86.131,192.168.86.132.
2.下载zookeeper压缩包,解压,在conf目录下增加zoo.cfg文件,文件内容可参考zoo_sample.cfg. 具体内容如下:

tickTime=2000

dataDir=/usr/local/zookeeper-3.6.2/data

clientPort=2181

initLimit=5

syncLimit=2

server.1=192.168.86.130:2888:3888

server.2=192.168.86.131:2888:3888

 

server.3=192.168.86.132:2888:3888
3. 分别启动三台zookeeper服务器: bin/zkServer.sh start
二、部署kafka集群。
1.kafka集群利用搭建好的zookeeper集群。
2.分别在三台机器上解压kafka的压缩包。
3.修改config/server.properties文件,增加以下容,注意有些属性在文件中已有,不能重复:
broker.id=130 #brokerId 每台机器需要设置不同的值。
offsets.topic.replication.factor=3 transaction.state.log.replication.factor=3 transaction.state.log.min.isr=2

4. 分别启动三台服务器:nohup bin/kafka-server-start.sh config/server.properties &
5. 利用JAVA客户端生产消息:
5.1 在工程的pom.xml文件中加入以下内容:

 

<dependency>
    <groupId>org.apache.kafka</groupId>
    <artifactId>kafka-clients</artifactId>
    <version>2.6.0</version>
</dependency>

5.2 编写生产消息的代码:

public static void main(String[] args) {
    Properties props = new Properties();
props.put("bootstrap.servers", "192.168.86.130:9092,192.168.86.131:9092,192.168.86.132:9092");
props.put("acks", "all");
props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");

Producer<String, String> producer = new KafkaProducer<>(props);
    for (int i = 120; i < 130; i++)
        producer.send(new ProducerRecord<String, String>("kevin-topic-5", Integer.toString(i), Integer.toString(i)));

producer.close();

}
分享到:
评论

相关推荐

    kafka-zookeeper集群配置

    **Kafka-Zookeeper集群配置详解** 在大数据处理和实时流计算领域,Apache Kafka与Zookeeper是两个非常重要的组件。Kafka作为一个高吞吐量、分布式的消息发布与订阅系统,广泛用于数据管道和实时数据流处理;而...

    kafka集群zookeeper集群整合配置

    在本文中,我们将深入探讨如何将Kafka集群与Zookeeper集群整合配置,以实现稳定可靠的运行环境。 首先,理解Zookeeper的角色。Zookeeper在Kafka中的主要职责包括: 1. **元数据存储**:Kafka的 Topic、Partition、...

    kafka、Zk 集群部署技术手册v0.1.docx

    kafka 和 Zookeeper 集群部署技术手册 本文档旨在指导读者一步步搭建 Kafka 和 Zookeeper 集群的部署,涵盖了集群搭建、配置、启动等方面的详细信息。通过阅读本文档,读者可以快速搭建起一个功能齐全的 Kafka 和 ...

    kafka+zookeeper高可用集群搭建shell使用脚本

    【标题】"kafka+zookeeper高可用集群搭建shell使用脚本"所涉及的知识点主要集中在构建高可用的Kafka和Zookeeper集群上,以及如何利用Shell脚本来自动化这个过程。Kafka是一个分布式流处理平台,而Zookeeper是Apache...

    kafka + zookeeper 集群jar包

    在部署Kafka集群时,首先需要安装Zookeeper集群。Zookeeper的安装过程通常包括解压下载的tar.gz文件,配置zoo.cfg文件,设置数据存储目录,以及启动Zookeeper服务。每个Zookeeper节点都需要知道集群中其他节点的地址...

    Kafka和Zookeeper集群搭建

    在这个主题中,我们将深入探讨如何搭建Kafka和Zookeeper集群,以及这两个组件在实际应用中的作用。 首先,让我们了解一下Zookeeper。Zookeeper是Apache Hadoop项目的一个子项目,它为分布式应用程序提供一致性服务...

    Kafka、Zookeeper集群配置

    **Kafka与Zookeeper集群配置详解** 在大数据处理和实时流计算领域,Apache Kafka和Apache Zookeeper是两个不可或缺的组件。Kafka作为一个高吞吐量的分布式消息系统,用于处理实时数据流,而Zookeeper则作为一个...

    Kafka、Zookeeper集群配置Demo

    Kafka、Zookeeper集群配置Demo

    zookeeper、kafka集群部署

    zookeeper配置、集群部署 kafka配置、集群部署 Window平台下

    centos7下Redis哨兵集群和kafka集群和zookeeper集群搭建

    centos7下Redis哨兵集群和kafka集群和zookeeper集群搭建 http://blog.csdn.net/gaowenhui2008/article/details/71516901 https://cwiki.apache.org/confluence/display/KAFKA/Clients

    zookeeper集群升级方案

    随着业务的发展和技术的进步,现有的Zookeeper集群系统版本过低(当前版本为3.3.4),导致某些功能特性无法得到支持或表现不佳,这直接影响到了业务的正常运行和服务质量。为了提升系统的稳定性和扩展性,并充分利用...

    kafka+zookeeper

    然后在Kafka的配置文件`config/server.properties`中,设置`zookeeper.connect`参数为Zookeeper集群的连接字符串,这样Kafka就能与Zookeeper进行通信了。配置完成后,可以按照标准流程启动Kafka的Broker节点。 在...

    bitnami版本的zookeeper和kafka的docker-compose配置

    这个Docker Compose 文件定义了一个包含Zookeeper和三个Kafka节点的服务集群。通过指定镜像、端口映射、环境变量和依赖关系等配置,实现了Zookeeper和Kafka的快速部署和集成。同时,在定义了一个名为"mynetwork"的...

    zookeeper linux集群搭建流程

    zookeeper Linux 集群搭建流程 ZooKeeper 是一个广泛使用的分布式协调服务,主要用于管理和协调分布式系统中的各个节点。Linux 集群搭建是 ZooKeeper 的一种常见应用场景,本文将详细介绍 ZooKeeper Linux 集群搭建...

    kafka安装 docker安装kafka zookeeper

    KAFKA_BROKER_ID : broker的ID,这个ID是集群的标识,不能重 复。 KAFKA_ZOOKEEPER_CONNECT:zookeeper的连接地址 KAFKA_LISTENERS:标识kafka服务运行在容器内的9092端口,因为没有指定host,所以是 0.0.0.0标识...

    zookeeper集群.rar

    Zookeeper集群是一个分布式协调服务,由Apache开发,广泛应用于分布式计算环境,如Hadoop、HBase、Kafka等。在Windows环境下搭建Zookeeper集群,主要涉及以下步骤和知识点: 1. **Zookeeper安装**: 首先需要下载...

    快速部署单机kafka集群(win环境)

    kafka集群类型: single broker(单节点单boker集群,亦即kafka只启一个broker消息中间件服务,producer、consumer、broker均通过zookeeper集群交换消息,具体可参考:http://exp-blog.com/2018/08/03/pid-2187/

    kafka 与zookeeper打包.rar

    1. **集群注册与发现**:Kafka的Broker节点会将自己注册到Zookeeper上,消费者和生产者通过Zookeeper发现可用的Broker。 2. **分区和副本的领导者选举**:Kafka中的每个主题(Topic)可以被分成多个分区(Partition...

    kafka集群部署、监控

    zookeeper集群部署,kafka集群部署,kafka介绍,topic创建、删除、kafka监控

Global site tag (gtag.js) - Google Analytics