`
umbrellall1
  • 浏览: 146310 次
  • 性别: Icon_minigender_1
  • 来自: 成都
文章分类
社区版块
存档分类
最新评论

kafka配置文件详解

 
阅读更多
#指定节点列表  
metadata.broker.list=kafka01:9092,kafka02:9092,kafka03:9092    
  
  
#指定分区处理类。默认kafka.producer.DefaultPartitioner  
#partitioner.class=kafka.producer.DefaultPartitioner  
  
  
#是否压缩,0代表不压缩,1代表用gzip压缩,2代表用snappy压缩  
compression.codec=0  
  
  
#指定序列化处理类  
serializer.class=kafka.serializer.DefaultEncoder    
  
  
#如果要压缩消息,这里指定哪些topic要压缩消息,默认是empty,表示不压缩  
#compressed.topics=  
  
  
#设置发送数据是否需要服务端的反馈,有三个值0,1,-1  
# 0:producer不会等待broker发送ack  
# 1:当leader接收到消息后发送ack  
# -1:当所有的follower都同步消息成功后发送ack  
request.required.acks=0  
  
  
#在向producer发送ack之前,broker均需等待的最大时间  
request.timeout.ms=10000  
  
  
#sync同步(默认),async异步可以提高发送吞吐量  
producer.type=async  
  
  
#在async模式下,当message缓存超时后,将会批量发送给broker,默认5000ms  
#queue.buffering.max.ms=5000  
  
  
#在async模式下,Producer端允许buffer的最大消息量  
queue.buffering.max.messages=20000  
  
  
#在async模式下,指定每次批量发送的数据量,默认200  
batch.num.messages=500  
  
  
#当消息在producer端沉积的条数达到“queue.buffering.max.messages"后  
#阻塞一定时间后,队列仍然没有enqueue(producer仍然没有发送出任何消息)  
#此时producer可以继续阻塞,或者将消息抛弃  
# -1:无阻塞超时限制,消息不会被抛弃  
# 0 :立即清空队列,消息被抛弃  
queue.enqueue.timeout.ms=-1  

分享到:
评论

相关推荐

    Spring 集成 Kafka的配置文件及代码讲解

    接下来,我们来配置Spring Boot的`application.yml`或`application.properties`文件以连接到Kafka集群。这里是一个示例配置: ```yaml spring: kafka: bootstrap-servers: localhost:9092 # Kafka服务器地址 ...

    Kafka 配置文件及编程

    **Kafka配置文件详解** Kafka是一个分布式流处理平台,其核心组件包括生产者、消费者和代理(broker)。在Kafka的运行中,`server.properties`是每个Kafka broker节点的核心配置文件,它定义了服务器的行为和参数。...

    kafka参数配置详解

    Kafka参数配置详解 Kafka是一种流行的分布式流处理平台,用于构建实时数据管道和事件驱动的架构。为了确保Kafka集群的稳定运行和高性能,需要正确地配置Kafka参数。本文将详细介绍Kafka的参数配置,包括系统参数、...

    kafka配置参数详解 - 网络技术

    在实际使用过程中,需要对Kafka的配置参数进行详细理解,以便根据具体业务需求调整参数,优化性能。以下对Kafka主要配置参数进行详细解读: 1. broker.id:这是Kafka broker的唯一标识符,它是一个整数,用于唯一...

    Kafka3.0详解,客户端命令,核心配置文件详解。spring集成、webflux集成、集群搭建

    它的客户端命令以及核心配置文件是其操作的核心,而spring集成和webflux集成则可以将Kafka3.0与主流的Java开发框架相结合,集群搭建则是其分布式特性的基础。 消息系统是一种应用程序,用于在不同的软件组件之间...

    Kafka配置参数详解 - 网络技术.rar_KAFKA broker_Kafka配置参数详解_kafka

    `server.properties`配置文件是每个Kafka broker的核心配置文件,它定义了Kafka节点的行为和性能特性。本篇将深入探讨Kafka配置参数,帮助你理解和优化Kafka集群的运行。 1. **broker.id**: 这个参数是每个Kafka ...

    kafka配置安装详解

    ### Kafka配置安装详解 #### 一、环境搭建与配置 Kafka是一款开源的消息队列中间件,被广泛应用于大数据处理领域。本篇文章将详细介绍如何在本地环境中安装并配置Kafka,以及进行基本的操作演示。 ##### 环境要求...

    Kafka配置信息.docx

    Kafka 配置信息总结 Kafka 是一个基于 Publish-Subscribe 模式的分布式消息队列系统,配置信息是 Kafka 集群的核心组件。本文将对 Kafka 配置信息进行详细的解析,帮助读者更好地理解 Kafka 的配置机制。 Broker ...

    kafka细心原理与实战

    #### 三、Kafka配置文件详解 Kafka配置文件中包含了大量关键配置项,这些配置项决定了Kafka集群的行为特性。主要包括以下几点: 1. **log.dirs**:指定数据日志存储路径。 2. **num.partitions**:每个Topic的默认...

    kafka_2.11安装包和配置文件

    这是Kafka Broker的主要配置文件,包含以下关键设置: - `broker.id`: 每个Broker的唯一标识,通常从0开始。 - `zookeeper.connect`: ZooKeeper的连接字符串,用于协调Kafka集群。 - `log.dirs`: 存储日志数据的...

    kafka 配置kerberos安全认证

    ### Kafka配置Kerberos安全认证详解 #### 一、引言 Kafka 是一款高性能的消息队列服务,广泛应用于大数据处理领域。为了保障数据的安全性和完整性,Kafka 提供了多种安全认证机制,其中 Kerberos 认证是一种非常...

    kafka资源文件.

    《Kafka资源文件详解》 Kafka是一款高吞吐量、分布式的实时消息发布订阅系统,广泛应用于大数据处理和实时分析领域。它以其强大的性能、可靠性和灵活性赢得了开发者们的青睐。在Java和SpringCloud生态中,Kafka更是...

    Kafka核心组件详解.doc

    《Kafka核心组件详解》 Kafka是一款高吞吐量的分布式消息系统,其核心组件是构建高效、可扩展的消息传递平台的关键。本文将深入解析Kafka的核心组件,包括生产者、消费者、主题、代理节点(Broker)以及Zookeeper,...

    spring kafka demo (详解 可以跑通)

    接着,创建配置类`KafkaConfig`,配置Kafka连接参数,如bootstrap servers、生产者和消费者的配置属性: ```java @Configuration public class KafkaConfig { @Value("${spring.kafka.bootstrap-servers}") ...

    kafka配置.pptx

    ### Kafka配置详解 #### 一、Kafka简介与应用场景 Kafka是一款由LinkedIn开发并开源的分布式消息系统,采用Scala语言编写。它最初被设计用于LinkedIn的活动流和运营数据处理管道,具备高度可扩展性和高吞吐量的...

    spring-cloud-stream结合kafka使用详解

    在 application.yml 文件中,我们需要配置 Kafka 的相关信息,例如 Kafka 服务器地址、topic 名称等: ```yaml spring: cloud: stream: kafka: binder: brokers: xxx.xxx.xxx.xx:xxxx bindings: xxx_output: ...

    kafka生产实践(详解)

    Kafka生产实践详解 本文将深入探讨Kafka生产实践的详细执行过程,包括Kafka的结构、param配置、集群搭建等方面的知识点。 1. Kafka的结构 Kafka是一种高吞吐量的分布式发布订阅消息系统,主要由Producer、Broker...

    Kafka生产者详解(很细)

    若要在项目中调用Kafka的生产者API,需要在项目的pom.xml文件中添加`kafka-clients`依赖,具体配置如下所示: ```xml <groupId>org.apache.kafka <artifactId>kafka-clients <version>2.2.0 ``` ##### 2.2 ...

    SpringBoot使用Kafka详解含完整代码

    ### Spring Boot 使用 Kafka 详解 #### 一、前言 随着大数据时代的发展,实时数据处理的需求日益增加。Kafka作为一款高性能的分布式流处理平台,因其高吞吐量、低延迟等特点,在数据处理领域占据了一席之地。而...

Global site tag (gtag.js) - Google Analytics