`
baobeituping
  • 浏览: 1068515 次
  • 性别: Icon_minigender_1
  • 来自: 长沙
社区版块
存档分类
最新评论

kafka配置文件详解之:producer.properties

 
阅读更多
  1. #指定节点列表  
  2. metadata.broker.list=kafka01:9092,kafka02:9092,kafka03:9092    
  3.   
  4.   
  5. #指定分区处理类。默认kafka.producer.DefaultPartitioner  
  6. #partitioner.class=kafka.producer.DefaultPartitioner  
  7.   
  8.   
  9. #是否压缩,0代表不压缩,1代表用gzip压缩,2代表用snappy压缩  
  10. compression.codec=0  
  11.   
  12.   
  13. #指定序列化处理类  
  14. serializer.class=kafka.serializer.DefaultEncoder    
  15.   
  16.   
  17. #如果要压缩消息,这里指定哪些topic要压缩消息,默认是empty,表示不压缩  
  18. #compressed.topics=  
  19.   
  20.   
  21. #设置发送数据是否需要服务端的反馈,有三个值0,1,-1  
  22. # 0:producer不会等待broker发送ack  
  23. # 1:当leader接收到消息后发送ack  
  24. # -1:当所有的follower都同步消息成功后发送ack  
  25. request.required.acks=0  
  26.   
  27.   
  28. #在向producer发送ack之前,broker均需等待的最大时间  
  29. request.timeout.ms=10000  
  30.   
  31.   
  32. #sync同步(默认),async异步可以提高发送吞吐量  
  33. producer.type=async  
  34.   
  35.   
  36. #在async模式下,当message缓存超时后,将会批量发送给broker,默认5000ms  
  37. #queue.buffering.max.ms=5000  
  38.   
  39.   
  40. #在async模式下,Producer端允许buffer的最大消息量  
  41. queue.buffering.max.messages=20000  
  42.   
  43.   
  44. #在async模式下,指定每次批量发送的数据量,默认200  
  45. batch.num.messages=500  
  46.   
  47.   
  48. #当消息在producer端沉积的条数达到“queue.buffering.max.messages"后  
  49. #阻塞一定时间后,队列仍然没有enqueue(producer仍然没有发送出任何消息)  
  50. #此时producer可以继续阻塞,或者将消息抛弃  
  51. # -1:无阻塞超时限制,消息不会被抛弃  
  52. # 0 :立即清空队列,消息被抛弃  
  53. queue.enqueue.timeout.ms=-1 
分享到:
评论

相关推荐

    Kafka 配置文件及编程

    **Kafka配置文件详解** Kafka是一个分布式流处理平台,其核心组件包括生产者、消费者和代理(broker)。在Kafka的运行中,`server.properties`是每个Kafka broker节点的核心配置文件,它定义了服务器的行为和参数。...

    Spring 集成 Kafka的配置文件及代码讲解

    接下来,我们来配置Spring Boot的`application.yml`或`application.properties`文件以连接到Kafka集群。这里是一个示例配置: ```yaml spring: kafka: bootstrap-servers: localhost:9092 # Kafka服务器地址 ...

    kafka_2.11-0.11.0.3.zip

    《Kafka 0.11.0.3在CentOS 7.0系统中的安装与使用详解》 Apache Kafka是一款高性能、分布式的消息中间件,它主要用于处理实时数据流。Kafka_2.11-0.11.0.3是针对Java 2.11版本的一个发行版,适用于Linux环境,特别...

    ubuntu安装kafka(csdn)————程序.pdf

    Kafka 的配置文件位于 `~/kafka/config/server.properties`。需要在文件末尾添加以下行,以便允许删除主题: ``` delete.topic.enable = true ``` 同时,需要配置远程访问,以便从外部访问 Kafka。添加以下行: ``` ...

    kafka_2.11安装包和配置文件

    **Kafka 2.11 安装与配置详解** Kafka是一款开源的分布式流处理平台,由LinkedIn开发并贡献给Apache基金会。它主要用于构建实时数据管道和流应用,能够高效地处理大量实时数据。本篇文章将围绕Kafka 2.11版本的安装...

    Kafka安装(安装与配置).pdf

    ### Kafka安装与配置详解 #### 一、Kafka简介 Apache Kafka是一种分布式流处理平台,主要功能包括发布和订阅记录流、存储记录流并可靠地处理这些记录流。Kafka适用于离线和在线的消息消费,如常规的消息收集、网站...

    kafka配置安装详解

    ### Kafka配置安装详解 #### 一、环境搭建与配置 Kafka是一款开源的消息队列中间件,被广泛应用于大数据处理领域。本篇文章将详细介绍如何在本地环境中安装并配置Kafka,以及进行基本的操作演示。 ##### 环境要求...

    kafka_2.11-2.2.1--.zip

    8. **配置与管理**:Kafka 的配置文件(如 `server.properties`)允许用户自定义集群的行为,包括设置 broker 的端口、设置 ZooKeeper 连接等。此外,Kafka 的管理操作如创建主题、调整分区、查看消费者位移等,都...

    SpringBoot使用Kafka详解含完整代码

    在`application.yml`或`application.properties`中配置Kafka的相关参数: ```yaml spring: kafka: bootstrap-servers: localhost:9092 consumer: group-id: my-group enable-auto-commit: true # 是否自动提交...

    Kafka跨集群容灾备份.docx

    - **配置文件参数说明**:例如 `source_consumer.properties` 文件中应包含正确的 Kafka 服务器位置信息。 ```properties bootstrap.servers=ip-188-33-33-31.eu-central-1.compute.internal ``` 通过以上详细...

    kafka_2.11-2.2.2.tgz

    解压后,进入Kafka目录并编辑配置文件`config/server.properties`,主要关注以下几个关键配置项: 1. `broker.id`:每个Kafka节点的唯一标识,通常从0开始。 2. `zookeeper.connect`:连接ZooKeeper的地址,格式为`...

    kafka配置.pptx

    ### Kafka配置详解 #### 一、Kafka简介与应用场景 Kafka是一款由LinkedIn开发并开源的分布式消息系统,采用Scala语言编写。它最初被设计用于LinkedIn的活动流和运营数据处理管道,具备高度可扩展性和高吞吐量的...

    kafka安装包.zip

    3. 设置配置文件:修改配置文件server.properties,配置包括broker ID、端口、日志目录、Zookeeper连接等信息。 4. 启动Zookeeper:Kafka依赖Zookeeper进行集群管理和元数据存储,需要先启动Zookeeper服务。 5. ...

    kafka-eagle-bin-3.0.1.tar.gz

    3. **配置文件**:修改conf/kafka-eagle.properties,配置Kafka集群地址、Zookeeper连接等参数。 4. **启动服务**:执行bin/kafka-eagle-start.sh命令启动Kafka Eagle,通过浏览器访问配置的Web端口即可看到管理界面...

    kafka部署日志(含安装包).zip

    **Kafka部署与安装详解** Kafka是一款分布式流处理平台,由LinkedIn开发并贡献给了Apache软件基金会。它被广泛用于实时数据管道构建,允许应用程序高效地发布和订阅大量数据流。在本篇中,我们将详细讲解如何在...

    kafka_2.10-0.10.1.0

    《Kafka 2.10-0.10.1.0在Windows环境下的应用与配置详解》 Kafka是一款高性能、分布式的消息中间件,它主要用于处理实时数据流。在这个版本,即Kafka 2.10-0.10.1.0,主要面向的是Java 2.10 SDK,提供了稳定且高效...

    kafka 18道面试题和答案.docx

    这里的IP地址应与`server.properties`配置文件中的`listeners`设置匹配。 - 消费者接收消息的命令:`bin/kafka-console-consumer.sh --zookeeper localhost:2181 -topic Hello-Kafka --from-beginning`,`--from-...

Global site tag (gtag.js) - Google Analytics