`
byx5185
  • 浏览: 113631 次
  • 性别: Icon_minigender_1
  • 来自: 上海
社区版块
存档分类
最新评论

kafka集群配置-windows版

    博客分类:
  • J2EE
阅读更多
下载kafka二进制包kafka_2.10-0.8.1.1.tgz,解压


1.拷贝conf/server.properties为
第一个节点server-9093.properties,修改如下内容:
broker.id=9093
port=9093
host.name=127.0.0.1
log.dirs=/tmp/kafka-logs-9093
zookeeper.connect=localhost:2181

第二个节点server-9094.properties,修改如下内容:
broker.id=9094
port=9094
host.name=127.0.0.1
log.dirs=/tmp/kafka-logs-9094
zookeeper.connect=localhost:2181

2.拷贝bin/windows/*.bat 到bin

3.修改kafka-run-class.bat

set ivyPath=%USERPROFILE%\.ivy2\cache

set snappy=%ivyPath%/org.xerial.snappy/snappy-java/bundles/snappy-java-1.0.5.jar
     call :concat %snappy%

set library=%ivyPath%/org.scala-lang/scala-library/jars/scala-library-2.8.0.jar
     call :concat %library%

set compiler=%ivyPath%/org.scala-lang/scala-compiler/jars/scala-compiler-2.8.0.jar
     call :concat %compiler%

set log4j=%ivyPath%/log4j/log4j/jars/log4j-1.2.15.jar
     call :concat %log4j%

set slf=%ivyPath%/org.slf4j/slf4j-api/jars/slf4j-api-1.6.4.jar
     call :concat %slf%

set zookeeper=%ivyPath%/org.apache.zookeeper/zookeeper/jars/zookeeper-3.3.4.jar
     call :concat %zookeeper%

set jopt=%ivyPath%/net.sf.jopt-simple/jopt-simple/jars/jopt-simple-3.2.jar
     call :concat %jopt%

for %%i in (%BASE_DIR%\core\target\scala-2.8.0\*.jar) do (
     call :concat %%i
)

for %%i in (%BASE_DIR%\core\lib\*.jar) do (
     call :concat %%i
)

for %%i in (%BASE_DIR%\perf\target\scala-2.8.0/kafka*.jar) do (
     call :concat %%i
)

替换为:


for %%i in (%BASE_DIR%\libs\*.jar) do (
     call :concat %%i
)


4.修改kafka_2.10-0.8.1.1\config\log4j.properties
kafka.logs.dir=/logs

5.启动脚本
第一个节点:
set JMX_PORT=19093
cd kafka_2.10-0.8.1.1\bin
kafka-server-start.bat  ..\config\server-9093.properties

第二个节点:
set JMX_PORT=19094
cd kafka_2.10-0.8.1.1\bin
kafka-server-start.bat  ..\config\server-9094.properties

6.创建topic批处理脚本bin\kafka-topics.bat
kafka-run-class.bat  kafka.admin.TopicCommand  %*

7.创建topic
cd kafka_2.10-0.8.1.1\bin
kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 2 --partitions 3 --topic my-replicated-topic

8.查看topic描述信息
cd kafka_2.10-0.8.1.1\bin
kafka-topics.bat --describe --zookeeper localhost:2181 --topic my-replicated-topic

9.生产topic消息
cd kafka_2.10-0.8.1.1\bin
kafka-console-producer.bat --broker-list localhost:9093 --topic my-replicated-topic

10.消费topic消息
cd kafka_2.10-0.8.1.1\bin
kafka-console-consumer.bat --zookeeper localhost:2181 --from-beginning --topic my-replicated-topic
分享到:
评论

相关推荐

    最新版windows kafka_2.12-2.4.1.tgz

    - `zookeeper.connect`: 连接ZooKeeper的地址,用于协调Kafka集群。 - `log.dirs`: 日志文件存储的目录,Kafka会在这里保存数据。 启动Kafka服务: 4. 启动ZooKeeper服务,这是Kafka依赖的分布式协调服务。在...

    kafka-2.12-0.10.2.0文件安装包

    4. **可扩展性**:Kafka集群可以通过添加更多的服务器进行水平扩展,增加吞吐量和存储容量。 在Windows服务器上安装Kafka_2.12-0.10.2.0的步骤包括: 1. **解压文件**:将下载的压缩包解压到指定目录,通常推荐C...

    最新版windows kafka_2.12-2.5.0.zip

    在Windows环境下部署Kafka,你需要下载最新版的Kafka,这里提到的是`windows kafka_2.12-2.5.0.zip`。这个版本是针对Scala 2.12编译的,这意味着它使用了Scala 2.12版本的API,提供了更好的性能和兼容性。 1. **...

    kafka-manager-1.3.3.6-for-windows

    在开始使用Kafka Manager之前,必须正确配置它与你的Kafka集群和Zookeeper服务器的连接。打开解压后的目录,找到`config`子目录,编辑`application.conf`文件。你需要找到`kafka-manager.zkhosts`配置项,根据你的...

    Kafka Manager cmak-3.0.0.4 最新版本

    - 集群配置:允许用户查看和修改Kafka集群的配置参数,以适应不同的业务需求。 - Topic管理:创建、删除、修改Topic,以及查看Topic的详细信息,如Replication Factor、Partition数等。 - Group管理:监控...

    kafka-2.1.1-src.tgz

    标题中的"kafka-2.1.1-src.tgz"表明这是一个Kafka的源代码压缩包,版本号为2.1.1,格式是...记住,理解和熟悉Kafka的内部机制,如分区、副本、ISR(In-Sync Replicas)等概念,将有助于更好地优化和管理你的Kafka集群。

    kafka_2.13-3.2.1.tgz

    在集群部署方面,Kafka采用Zookeeper进行集群协调,管理节点间的选举、配置同步等任务。Zookeeper的引入增强了Kafka的稳定性和容错性。此外,Kafka还提供了Consumer Group的概念,使得多消费者可以协同工作,共同...

    最新版windows kafka_2.13-2.5.0.zip

    6. ** Broker**:Kafka集群由多个服务器(Broker)组成,它们负责存储、复制和分发消息。每个服务器都可以作为生产者或消费者的节点。 7. **offset**:每个消息在分区中有唯一的偏移量,表示其在分区中的位置。消费...

    kafka_2.11-2.1.0

    总结,"kafka_2.11-2.1.0" 压缩包提供的 Kafka 版本是构建实时数据处理系统的强大工具,通过理解其核心特性、架构以及如何进行安装和配置,开发者可以充分利用 Kafka 的优势,实现高效、可靠的实时数据流动。...

    kafka_2.12-1.1.0.tgz

    Kafka依赖于Zookeeper进行集群管理和协调,因此在使用Kafka之前,我们需要先启动Zookeeper。在命令行中切换到Zookeeper的bin目录(通常在Kafka解压目录的“\bin\windows”下),运行以下命令: ``` zkServer.cmd ...

    kafka-manager-2.0.0.2.zip

    为了简化开发者和服务工程师维护Kafka集群的工作,yahoo构建了一个叫做Kafka管理器的基于Web工具,叫做 Kafka Manager。这个管理工具可以很容易地发现分布在集群中的哪些topic分布不均匀,或者是分区在整个集群分布...

    windows下kafka_2.12-2.9.0.rar(含单机伪分布式配置)

    在分布式环境中,通常需要多台服务器来运行Kafka集群,但为了测试或学习目的,可以使用单机上的伪分布式设置,这使得开发者能够在本地环境中快速搭建Kafka实例,而无需复杂的网络配置。 标签中的“kafka”、...

    kafka_2.11-1.0.1

    此外,Kafka还支持Producers API用于生产消息,Consumers API用于消费消息,以及Admin API用于管理主题和集群配置。在实际应用中,Kafka常与Spark、Storm等大数据处理框架结合,构建实时数据处理管道。 总之,Kafka...

    最新版windows kafka_2.13-2.4.1.zip

    4. **生产者(Producer)**:负责向Kafka集群发送消息的应用。 5. **消费者(Consumer)**:订阅并消费Kafka主题中消息的应用,可以是单个实例或消费者组。 **六、Kafka的应用场景** 1. **日志收集**:Kafka可以...

    kafka-manager-1.3.4(已编译)

    你可以添加、删除或编辑集群配置,如Zookeeper地址和安全设置。 2. **主题操作**:提供创建、删除、修改主题的接口,支持批量操作。同时,还能查看主题的分区和副本分布,调整分区数量,以及进行重分配。 3. **...

    kafka_2.11-2.2.2.tgz

    4. **分布式**:Kafka集群由多个服务器组成,可以跨多个节点进行数据复制,以提高可用性和性能。 5. **分区与并行处理**:Kafka中的每个主题都可以被分成多个分区,每个分区可以在不同的服务器上,这使得多线程并行...

    kafka-2.10-0.10.2.1.zip

    在本提供的资源“kafka-2.10-0.10.2.1.zip”中,包含的是Windows版的Kafka 0.10.2.1版本。这个版本适用于基于Java 2.10的开发环境,它提供了消息队列和实时数据流处理的能力,广泛应用于大数据处理、日志收集、网站...

    kafka +zookeper 官方包kafka_2.11-2.3.0.zip

    此时,需要在`server.properties`中配置集群节点的列表,以及在ZooKeeper中注册Kafka集群。 总结来说,Kafka与ZooKeeper的组合为大数据处理提供了高效、可靠的基础设施。通过理解这两个组件的工作原理和配置方法,...

    kafka_2.12-2.3.0-SNAPSHOT

    在Windows上配置分布式Kafka集群,需要在所有节点上配置相同的集群ID,并确保它们能够互相通信。 标签中的 "kafka" 涉及到的主题广泛,包括但不限于消息模型(发布/订阅)、数据模型(主题和分区)、APIs(生产者...

    kafka_2.13-3.1.0.tgz

    2. **config目录**:包含默认配置文件,如`server.properties`,它是Kafka broker的主要配置文件,定义了诸如端口号、日志存储路径、集群元数据等设置。 3. **libs目录**:包含了运行Kafka所需的各种依赖库,包括...

Global site tag (gtag.js) - Google Analytics