`
meowo
  • 浏览: 6207 次
社区版块
存档分类
最新评论

kafka0.7在linux上的单点及集群环境搭建与配置

阅读更多
IT业的小白,最近用了消息对了,研究了下kafka,并且研究了在kafka基础上进行了二次开发的淘宝rocketMQ,打算写下安装与配置环境,和初级demo。有用过的大家一起交流。这个过程参考了frankHui博客里的的安装配置过程。

kafka0.8版本比0.7版本增加了一些功能,先说下0.7版本的单点搭建和配置。

kafka的搭建需要zookeeper的支持,所以如果你的服务器还没有安装zookeeper,请先安装。

1.去apache官网把kafka7.0版本down下来。这个过程就不详细说了,百度下kafka就能找到下载地址。将下载下来的kafka上传到linux上,并解压。
命令tar -zxvf 文件名。

2. 接下来就是下载kafka的依赖包和构建kafka的环境。注意,这一步需要服务器可以上网。具体命令就是在kafka解压后的一级目录下,执行两个命令,分别是

命令 ./sbt update
命令 ./sbt package。
上面的步骤都执行完了,环境算是好了,下面我们要测试下是否能成功运行kafka:

3.启动zookeeper server:
./bin/zookeeper-server start.sh  ../config/zookeeper.properties  &
(用&是为了能退出命令行)

4.启动kafka server:
./bin/kafka-server-start.sh   ../config/server.properties  &

5. Kafka为我们提供了一个console来做连通性测试,下面我们先运行producer:
./bin/kafka-console-producer.sh --zookeeper localhost:2181 --topic test
这是相当于开启了一个producer的命令行。命令行的参数我们一会儿再解释。

6.接下来运行consumer,新启一个terminal:
./bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning

7.执行完consumer的命令后,你可以在producer的terminal中输入信息,马上在consumer的terminal中就会出现你输的信息。有点儿像一个通信客户端。

如果你能看到7执行了,说明你单机版部署成功了。下面解释下两条命令中参数的意思。--zookeeper localhost:2181 这个说明了去连本机2181端口的zookeeper server,--topic test,在kafka里,消息按topic来区分,我们这里的topic叫test,所以不管是consumer还是producer都指向了test。

这样kafka7.0的单点安装已经结束。集群安装和单点相似。具体过程如下:

我们还是按照那kafka单点配置的几个步骤来做。我们假设server1的IP是192.168.10.11 server2的IP是192.168.10.10:

1.在server1上启动zookeeper server :
./bin/zookeeper-server-start.sh  ../config/zookeeper.properties  &
(用&是为了能退出命令行)

2.在server2上启动kafka服务:
./ bin/kafka-server-start.sh ../config/server.properties  &

3.修改kafka配置文件在server1上找到kafka的config目录,目前本机的目录地址为:/application/search/kafkatest/kafka-0.7.2-incubating-src/config。找到server.properties文件,找到一行“hostname=“。
在等号后边加上启动了KAFKA服务的机器的ip,即192.168.10.11

4.server1上启动producer服务
./bin/kafka-console-producer.sh --zookeeper 192.168.10.11:2181 --topic test

5.运行consumer,
在server1上启动一个consumer
./ bin/kafka-console-consumer.sh --zookeeper 192.168.10.11:2181 --topic test --from-beginning

在server2启动一个consumer
./ bin/kafka-console-consumer.sh --zookeeper 192.168.10.11:2181 --topic test --from-beginning

6.运行完consumer的命令后,你可以在producer的terminal中输入信息,马上在两个consumer的terminal中就会出现你输的信息。



分享到:
评论

相关推荐

    kafka搭建单机windows_单机linux_集群linux操作.rar

    本文将详细介绍如何在Windows单机环境、Linux单机环境以及Linux集群环境下搭建Kafka,旨在帮助读者深入理解Kafka的部署与配置,以便更好地运用在实际项目中。 ### Windows单机环境搭建 1. **下载安装Java运行环境...

    kafka集群搭建文档

    本篇文档将详细介绍如何在Linux环境中搭建Kafka集群,同时结合Hadoop和Spark的分布式安装,构建一个完整的数据处理平台。 首先,搭建Kafka集群的基础条件包括: 1. 至少一台Linux服务器,但为了高可用性,推荐多台...

    快速部署单机kafka集群(win环境)

    kafka集群类型: single broker(单节点单boker集群,亦即kafka只启一个broker消息中间件服务,producer、consumer、broker均通过zookeeper集群交换消息,具体可参考:http://exp-blog.com/2018/08/03/pid-2187/

    kafka分布式集群搭建

    本文将详细介绍如何在三台CentOS服务器上搭建Kafka分布式集群,并配置Zookeeper进行协调管理。 #### 二、基本环境准备 **1. 服务器基本信息** - 使用VMware搭建3台相同的CentOS虚拟机。 - 配置网络: - 先通过...

    在linux中搭建kafka集群

    以下是如何在Linux上搭建Kafka集群的详细步骤,主要围绕Zookeeper集群的配置和启动。 首先,你需要至少三台Linux服务器,因为Zookeeper集群通常由奇数台服务器组成,以确保在任何情况下都能保持多数节点的存活,...

    kafka环境搭建(单机+集群) 详细

    在完成上述步骤后,你就成功地在单机和集群环境下搭建了Kafka和Redis。接下来,你可以开始测试消息传递和数据存储,了解如何创建主题,生产与消费消息,以及如何在Redis中存取数据。确保在实际使用中根据业务需求...

    使用sasl的kafka集群的搭建使用

    在搭建使用SASL机制的Kafka集群时,需要进行环境配置,包括下载最新版本的Kafka压缩包,并上传到指定的节点进行解压。接下来,需要编辑配置文件,例如`server.properties`文件,并设置必要的参数,如代理ID(broker....

    docker容器中搭建kafka集群环境.doc

    docker容器中搭建kafka集群环境,kafka集群配置注意事项与优化

    kafka集群搭建与使用

    Kafka 集群搭建与使用 Kafka 是一种高吞吐量的分布式发布订阅消息系统,使用 Scala 编写。Kafka 拥有作为一个消息系统应该具备的功能,但是确有着独特的设计。Kafka 集群的搭建和使用是基于 Kafka 的设计理念和架构...

    kafka集群搭建及测试.docx

    【Kafka集群搭建及测试】 Kafka是一种分布式流处理平台,常用于实时数据处理和大数据管道。本文档将详细介绍如何在三台Ubuntu 16虚拟机上搭建Kafka集群,并进行基本的测试,确保其正常运行。 **1. 准备工作** 在...

    Kafka集群搭建(3台机)

    由于Zookeeper是集群工作方式,所以在每台服务器上都需要配置集群中的所有服务器信息。此外,Zookeeper的日志目录和数据目录需要预先创建好,并且赋予适当的权限,确保Zookeeper能够正常读写。 在进行完Zookeeper的...

    kafka 单机集群搭建和监控

    在本文中,我们将深入探讨如何搭建Kafka单机环境与集群,以及如何进行有效的监控。Kafka是由Apache开发的一个分布式流处理平台,广泛应用于实时数据处理、消息传递和日志聚合等场景。以下是对每个主题的详细说明: ...

    Kafka Tool linux版本,适用于kafka0.11及以上

    总的来说,Kafka Tool是一款强大的Kafka管理工具,尤其适合Linux环境下的开发者和运维人员,它提供了丰富的功能,使得与Kafka集群的交互变得直观和简单。通过熟练掌握Kafka Tool的使用,可以提高工作效率,更好地...

    zookeeper linux集群搭建流程

    在开始搭建 ZooKeeper 集群之前,需要提前在本地安装好 JDK,因为 ZooKeeper 是用 Java 编写的,需要运行在 JVM 上。 第一步:下载和解压 ZooKeeper 首先,需要下载 ZooKeeper 的安装包,例如 zookeeper-3.4.6.tar...

    kafka集群配置文件

    - **冗余与容错**: 为提高可用性,Kafka和Zookeeper集群通常需要设置多个节点,至少3个以避免单点故障。 - **性能优化**: 调整Zookeeper和Kafka的缓存大小,以减少磁盘I/O操作。 - **监控与日志**: 配置适当的监控...

    kafka基础知识及集群搭建

    【Kafka基础知识及集群搭建】 Kafka是一种分布式消息中间件,由Apache软件基金会开发,主要用于处理实时流式数据。它的核心特性包括高吞吐量、持久性、分布式和灵活的消费模式。 ### 1. Kafka概述 #### 1.1 消息...

    kafka+zookeeper高可用集群搭建shell使用脚本

    【标题】"kafka+zookeeper高可用集群搭建shell使用脚本"所涉及的知识点主要集中在构建高可用的Kafka和Zookeeper集群上,以及如何利用Shell脚本来自动化这个过程。Kafka是一个分布式流处理平台,而Zookeeper是Apache...

    Kafka Tool 2.0.7(linux系统)

    2. 在使用 Kafka Tool 之前,需要知道 Kafka 集群的 ZooKeeper 地址,这通常是配置的一部分。 3. 对于敏感操作,如删除主题或调整消费者位移,一定要谨慎操作,以免造成数据丢失。 通过以上步骤,你就能在 Linux ...

    kafka环境搭建

    本文将详细介绍如何在Windows和Linux环境下搭建Kafka环境,并解释其中涉及的关键概念。 #### 二、Kafka基础知识 在开始环境搭建之前,我们先了解一些Kafka的基本术语: - **Broker**:Kafka 集群中的服务节点被...

Global site tag (gtag.js) - Google Analytics