`
wandejun1012
  • 浏览: 2737123 次
  • 性别: Icon_minigender_1
  • 来自: 上海
社区版块
存档分类
最新评论

kafka demo

    博客分类:
  • MQ
 
阅读更多

环境:ubuntu10 2台(32位)+JDK1.8(32位)+kafka2.11

 

假设ubuntu1的IP定义192.168.200.129,ubuntu2的IP定义192.168.200.130。

 

1、下载kafka.去官网下载2进制版本即可。

2、在ubuntu1机器上解压kafka_2.11-0.10.0.0.tgz。

     在ubuntu2机器上解压kafka_2.11-0.10.0.0.tgz。

3、kafka里面自带zookeeper.

      3.1)   ubuntu1上修改config目录下的server.properties,添加:

listeners=PLAINTEXT://192.168.200.129:9092

     3.2) ubuntu1上启动zookeeper.  

./zookeeper-server-start.sh ../config/zookeeper.properties  &

    3.3)   ubuntu1上启动kafka

./kafka-server-start.sh ../config/server.properties &

   3.4) ubuntu1上启动生产者。

./kafka-console-producer.sh --broker-list 192.168.200.129:9092 --topic test

   3.5) ubuntu2上启动消费者。

./kafka-console-consumer.sh --zookeeper 192.168.200.129:2181 --topic test --from-beginning

   3.6)在ubuntu1上输入hello,将在ubuntu2上显示hello.说明成功了。

 

扩展:

1、判断kafka有没有启动成功,输入jps命令,如果已经正常启动,结果如下:

4629 Kafka
4417 QuorumPeerMain
5141 Jps

 

2、一开始没有修改ubuntu1上面的server.properties中的listener配置,ubuntu2上的消费者始终报如下错:

kafka.common.KafkaException: fetching topic metadata for topics [Set(test)] from broker [ArrayBuffer(BrokerEndPoint(0,zk1,9092))] failed

 

google了一下,外国的一篇帖子和我情况很像,解决方案给了我灵感,就是没有显式设置监听的IP,如果不显式指定,监听的是localhost,就是127.0.0.1,这样除本机外是访问不了的。

参考链接

 

3、本文章参考来源。

 

4、kafka官网

 

5、kafka java demo1

kafka java demo2

kafka java demo3

 

6、kafka原理详解

kafka集群

 

7、kafka启动脚本,就是将启动zookeeper和kafka的命令集成在一起。

 

8、kafka集群安装,又一个例子。

 

9、cnblog上一个关于kafka简单的介绍

 

 

 

分享到:
评论

相关推荐

    springboot后端kafka demo

    这个项目可能包含了两个关键部分:`kafkaDemo`和`kafkaConsumer`。 `kafkaDemo`可能是一个简单的Spring Boot应用,它集成了Kafka的相关配置和API,用于发送消息到Kafka主题。在Spring Boot中,我们通常会使用`@...

    C# kafka demo

    在本文中,我们将深入探讨如何在C#环境中使用Kafka,通过分析提供的"C# kafka demo"来学习关键概念和技术。Kafka是一种分布式流处理平台,常用于构建实时数据管道和流应用。C#中的Kafka集成使.NET开发者也能利用其...

    kafka demo 两种线程消费方式

    【标题】"Kafka Demo 两种线程消费方式"展示了在Kafka中处理消息的两种常见线程模型,这是理解Kafka消费者工作原理的关键部分。Kafka是一个分布式流处理平台,用于构建实时数据管道和应用,它允许生产者发布消息到...

    KafkaDemo示例

    **KafkaDemo示例详解** Kafka是一种分布式流处理平台,由LinkedIn开发并贡献给了Apache软件基金会,现在已经成为大数据领域中的重要组件。它主要用于构建实时数据管道和流应用,能够处理大量的实时数据。在这个名为...

    kafkaDEMO源码下载地址

    1.BaseApi 2.Streams 3.Producer 4.Consumer 5.Connector 6.Rebalance 7.Offset 整理的kafka资料和代码

    kafkaDemo.zip

    "kafkaDemo.zip"是一个包含各种消费情况的Kafka示例项目,旨在帮助开发者更好地理解和运用Kafka。 一、Kafka核心概念 1. **主题(Topic)**:在Kafka中,消息被组织成主题,它是逻辑上的分类或队列。每个主题可以...

    阿里云消息队列kafka demo

    阿里云消息队列Kafka Demo是一个基于Scala编程语言实现的应用示例,旨在帮助开发者了解如何在阿里云环境中使用Kafka进行消息生产和消费。Kafka是一种分布式流处理平台,常用于构建实时数据管道和流应用,它能够高效...

    KafkaDemo.rar

    在你提供的KafkaDemo中,生产者代码会创建消息并发送到特定的主题。生产者可以设置不同的配置,如acks(确认机制)、batch.size(批量发送大小)和linger.ms(等待时间以合并批次)等,这些参数对性能和可靠性有直接...

    kafka-demo

    Kafka Demo 8版和10版的对比研究可以加深对 Kafka 进化历程的理解,并帮助开发者更好地适应和利用新版本的功能。在实际项目中,根据需求选择合适的版本,并确保正确配置和使用,可以充分发挥 Kafka 在实时数据处理中...

    kafkaDemo-master_kafka_

    在深入探讨`kafkaDemo-master_kafka_`这个压缩包中的内容之前,我们先来理解一下Kafka的基本概念。Kafka是由LinkedIn开发并贡献给Apache的一个分布式流处理平台,它主要用作实时数据管道和流处理。Kafka具有高吞吐量...

    JavaSparkStreaming-kafkaDemo

    **JavaSparkStreaming-kafkaDemo** 是一个基于Spark Streaming和Kafka的流式处理示例,主要展示了如何在Java环境中利用这两个强大的工具进行实时数据处理。在这个项目中,我们使用了Spark版本2.10和Kafka版本0.8.2.1...

    kafkademo内含ZooInspector

    【标题】"kafkademo内含ZooInspector" 指的是一个包含 Kafka 示例程序和 ZooInspector 工具的压缩包。Kafka 是一个分布式流处理平台,由 Apache 软件基金会开发,用于构建实时数据管道和流应用。而 ZooInspector 是...

    kafkaDemo样例

    KafkaDemo是一个典型的示例,用于演示如何在实际环境中使用Kafka进行数据生产和消费。通过这个样例,我们可以理解Kafka的基本工作流程。 1. **生产者(Producer)**:生产者是将数据发布到Kafka主题的应用。在Kafka...

    kafka demo项目.zip

    【Kafka 概述】 Kafka 是一个分布式流处理平台,由 LinkedIn 开发并在 Apache 软件基金会下...在实际项目中,"kafka demo" 项目可能是提供了一个基础的 Kafka 使用示例,帮助开发者快速上手和理解 Kafka 的工作原理。

    kafka-java-demo 基于java的kafka生产消费者示例

    除了基本的生产和消费功能,Kafka还支持一些高级特性,如幂等性生产者、事务性消费者、连接器(Connectors)以及Kafka Streams,这些都可能在"Kafka-java-demo"中有所体现,帮助你更好地理解和应用Kafka。...

    kafka demo ,两种线程消费方式

    在本文中,我们将深入探讨Apache Kafka的两种线程消费方式,这是基于提供的标题"Kafka Demo,两种线程消费方式"。Kafka是一种分布式流处理平台,广泛用于实时数据处理和消息传递。在这个示例中,我们将关注如何使用...

    timeline kafka demo data

    timeline kafka demo data

    自己的kafkademo,springboot

    标题 "自己的kafkademo,springboot" 描述的是一个基于Spring Boot的个人实现的Kafka演示项目。这个项目主要用于展示如何在Spring Boot应用程序中集成并使用Apache Kafka,这是一个广泛使用的分布式消息系统。通过这...

    springboot-kafka-simple-demo

    本示例"springboot-kafka-simple-demo"旨在帮助开发者了解如何在SpringBoot应用中集成和使用Kafka。 首先,我们需要了解Kafka的基本概念。Kafka是一个高吞吐量、低延迟的消息队列,它可以处理PB级别的数据,适用于...

Global site tag (gtag.js) - Google Analytics