`
gaojingsong
  • 浏览: 1182145 次
  • 性别: Icon_minigender_1
  • 来自: 深圳
文章分类
社区版块
存档分类
最新评论

【kakfa配置参数-Producer详解】

阅读更多

serializer.class

默认值: kafka.serializer.DefaultEncoder

必须实现kafka.serializer.Encoder接口,将T类型的对象encode成kafka message

 

 

key.serializer.class

默认值:serializer.class

key对象的serializer类

 

 

partitioner.class

默认值:kafka.producer.DefaultPartitioner

必须实现kafka.producer.Partitioner,根据Key提供一个分区策略

 

 

producer.type

默认值:sync

指定消息发送是同步还是异步。异步asyc成批发送用kafka.producer.AyncProducer, 同步sync用kafka.producer.SyncProducer

 

 

metadata.broker.list

默认值:boker list

使用这个参数传入boker和分区的静态信息,如host1:port1,host2:port2, 这个可以是全部boker的一部分

 

 

compression.codec

默认值:NoCompressionCodec

消息压缩,默认不压缩

 

 

compressed.topics

默认值:null

在设置了压缩的情况下,可以指定特定的topic压缩,为指定则全部压缩

 

 

message.send.max.retries

默认值:3

消息发送最大尝试次数

 

retry.backoff.ms

默认值:300

每次尝试增加的额外的间隔时间

 

topic.metadata.refresh.interval.ms

默认值:600000

定期的获取元数据的时间。当分区丢失,leader不可用时producer也会主动获取元数据,如果为0,则每次发送完消息就获取元数据,不推荐。如果为负值,则只有在失败的情况下获取元数据。

 

queue.buffering.max.ms

默认值:5000

在producer queue的缓存的数据最大时间,仅仅for asyc

 

queue.buffering.max.message

默认值:10000

producer 缓存的消息的最大数量,仅仅for asyc

 

 

queue.enqueue.timeout.ms

默认值:-1

0当queue满时丢掉,负值是queue满时block,正值是queue满时block相应的时间,仅仅for asyc

 

batch.num.messages

默认值:200

一批消息的数量,仅仅for asyc

 

request.required.acks

默认值:0

0表示producer毋须等待leader的确认,1代表需要leader确认写入它的本地log并立即确认,-1代表所有的备份都完成后确认。 仅仅for sync

 

request.timeout.ms

默认值:10000

确认超时时间

 

0
4
分享到:
评论

相关推荐

    kafka_2.11-2.2.2.tgz

    《Kafka在Linux环境下的安装与使用详解》 Apache Kafka是一款高性能、分布式的消息中间件,广泛应用于大数据实时处理、日志收集、流式数据处理等领域。本文将详细讲解如何在Linux环境下安装并使用Kafka 2.2.2版本。...

    kafka_2.12-1.0.0.zip

    3. 启动Kafka服务器,设置相关配置参数。 4. 创建主题,如`bin/kafka-topics.sh --create --topic test --partitions 3 --replication-factor 2 --if-not-exists`. 5. 使用producer和consumer工具进行消息生产和消费...

    最新版linux kafka_2.12-2.6.1.tgz

    **Linux上的Kafka 2.12-2.6.1:高级消息队列系统详解** Kafka是一款广泛应用于大数据处理、实时流处理和微服务架构中的分布式消息中间件。这款由LinkedIn开发并贡献给Apache基金会的开源项目,以其高效、可扩展性和...

    kafka_2.11-2.2.0.tgz

    在实际使用中,用户需要配置Kafka的broker、producer和consumer参数,例如设置broker的端口、数据存储路径、消费者的offset管理策略等。对于Kafka_2.11-2.2.0版本,用户可以参考官方文档,了解详细的配置选项和最佳...

    kafka_2.13-3.2.1.zip

    4. **配置Kafka**:修改`config/server.properties`配置文件,设置broker的ID、端口、日志路径等参数。 5. **启动Kafka**:使用`bin/kafka-server-start.sh config/server.properties`命令启动Kafka服务器。 6. **...

    kafka_2.12-1.1.0.tgz

    《Kafka 2.12-1.1.0在Windows上的安装与使用详解》 Apache Kafka是一款分布式流处理平台,被广泛应用于大数据实时处理、日志聚合、消息队列等多个场景。本文将详细介绍如何在Windows系统上安装并使用Kafka 2.12-...

    kafka_2.11-0.11.0.3.zip

    《Kafka 0.11.0.3在CentOS 7.0系统中的安装与使用详解》 Apache Kafka是一款高性能、分布式的消息中间件,它主要用于处理实时数据流。Kafka_2.11-0.11.0.3是针对Java 2.11版本的一个发行版,适用于Linux环境,特别...

    1、kafka(2.12-3.0.0)介绍、部署及验证、基准测试

    Kafka 的部署涉及配置服务器参数,启动服务,以及设置安全性和网络通信。对于初学者,理解 Kafka 的基本概念,如主题(Topics)、分区(Partitions)和副本(Replicas),以及如何通过 Shell 命令进行管理和监控,是...

    Python库 | kafka-python-1.3.4.tar.gz

    2. 配置参数的设置对于性能和稳定性至关重要,如设置适当的批处理大小、超时时间等。 3. 考虑到版本兼容性,使用kafka-python时需确保其与运行的Kafka集群版本相匹配。 总结,kafka-python-1.3.4作为Python与Kafka...

    kafka_2.10-0.10.1.0

    《Kafka 2.10-0.10.1.0在Windows环境下的应用与配置详解》 Kafka是一款高性能、分布式的消息中间件,它主要用于处理实时数据流。在这个版本,即Kafka 2.10-0.10.1.0,主要面向的是Java 2.10 SDK,提供了稳定且高效...

    kafka_2.11-0.10.1.0及使用说明

    **Kafka 2.11-0.10.1.0详解及使用指南** Apache Kafka 是一个开源的分布式流处理平台,由LinkedIn开发并捐赠给Apache软件基金会。它最初设计为一个高吞吐量、低延迟的消息队列系统,但随着时间的发展,Kafka已经...

    kafka_2.10-0.10.2.0.tgz

    - **配置参数**:包括broker设置、日志管理、网络连接等,可以根据实际需求进行调整。 5. **使用场景**: - **实时数据管道**:作为数据流转的桥梁,将数据从源头传输到处理系统。 - **流处理**:通过Kafka ...

    kafka_2.11-1.0.0.tgz

    3. **配置Kafka**:修改`config/server.properties`文件,配置broker id、端口、日志存储路径等关键参数。 4. **启动Zookeeper**:Kafka依赖Zookeeper,所以首先需要启动Zookeeper服务。 5. **启动Kafka**:运行`bin...

    kafka配置安装详解

    ### Kafka配置安装详解 #### 一、环境搭建与配置 Kafka是一款开源的消息队列中间件,被广泛应用于大数据处理领域。本篇文章将详细介绍如何在本地环境中安装并配置Kafka,以及进行基本的操作演示。 ##### 环境要求...

    Python库 | confluent_kafka-1.5.0-cp36-cp36m-win_amd64.whl

    通过`ConfluentKafka.Producer`类初始化对象,配置相关参数,如Bootstrap Servers(Kafka集群地址)和错误处理回调函数。然后,可以使用`produce()`方法将消息发送到指定的主题。例如: ```python from confluent_...

    kafka-eagle-bin-3.0.1.tar.gz

    3. **配置文件**:修改conf/kafka-eagle.properties,配置Kafka集群地址、Zookeeper连接等参数。 4. **启动服务**:执行bin/kafka-eagle-start.sh命令启动Kafka Eagle,通过浏览器访问配置的Web端口即可看到管理界面...

    Kafka视频教程-从入门到实战轻松学Kafka系统教程(13讲)

    ### Kafka视频教程知识点详解 #### 一、Kafka概述与基础知识 **1.1 Kafka简介** Kafka是一种分布式消息发布订阅系统,它最初由LinkedIn公司开发,并于2011年开源。Kafka的设计目标是提供高吞吐量、低延迟的消息...

    kafka基本指令

    ### Kafka基本指令详解 #### 一、启动Kafka服务 Kafka作为一个分布式流处理平台,在启动之前需要确保Zookeeper服务已经运行。这是因为Kafka依赖于Zookeeper来协调集群中的各个节点。 ##### 启动Zookeeper ```...

    kafka集群部署说明-wubin-200720.doc

    配置`zookeeper.connect`为Zookeeper集群的连接字符串(例如:`zookeeper.connect=192.168.29.170:2181,192.168.29.171:2181,192.168.29.172:2181`),设置其他必要的参数如`broker.id`,表示每个服务器在Kafka集群...

Global site tag (gtag.js) - Google Analytics