下载:
下载地址:
https://www.apache.org/dyn/closer.cgi?path=/kafka/0.9.0.1/kafka_2.11-0.9.0.1.tgz 下的 http://apache.fayea.com/kafka/0.9.0.1/kafka_2.11-0.9.0.1.tgz
配置:config/server.properties
zookeeper.connect=localhost:2181 配置连接zookeeper
log.dirs=/usr/local/kafka_2.11-0.9.0.1/kafka-logs 配置日志文件的路径
启动:
kafka启动要依赖jdk和zookeeper 所以启动kafka之前先要先启动zookeeper
启动服务:切换到bin目录下运行下面命令
./kafka-server-start.sh ../config/server.properties
启动生产方:
kafka-console-producer.sh --broker-list localhost:9092 --topic zj.entity.sss.update
启动消费方:
kafka-console-consumer.sh --zookeeper localhost:2181 --topic zj.* --from-beginning
设置为开机启动的做法:
方法一: /etc/rc.local中添加
/usr/local/kafka_2.11-0.9.0.1/bin/kafka-server-start.sh /usr/local/kafka_2.11-0.9.0.1/config/server.properties
好像这种方式启动不是很稳定,有时候可以有时候不行???20160314
方法二:
添加服务的方式启动kafka
step1: 进入到/etc/rc.d/init.d/目录下
cd /etc/rc.d/init.dstep2:新建kafka文件
touch kafka
step3:给kafka添加可执行权限
chmod +x kafka
step4:编辑kafka 添加如下内容
#!/bin/bash #chkconfig:2345 30 80 #description:kafka #processname:kafka case $1 in start) su root /usr/local/kafka_2.11-0.9.0.1/bin/kafka-server-start.sh /usr/local/kafka_2.11-0.9.0.1/config/server.properties;; stop) su root /usr/local/kafka_2.11-0.9.0.1/bin/kafka-server-stop.sh /usr/local/kafka_2.11-0.9.0.1/config/server.properties;; *) echo "require start|stop" ;; esac
注意:#chkconfig:2345 30 80 这里的30 要比 zookeerper 中的大,表示比其慢启动。80比zookeeper中的小,表示比其先关闭。这样改了之后还是启动不起来,20160320。
step5:要添加服务
chkconfig --add kafka
step6:现在可以用下面命令来启动停止kafka服务
service kafka start/stop
step7:设置为开机启动
chkconfig kafka on
集群配置:
常见错误:
1,
启动kafka时如果报
java.net.UnknownHostException: com.zjdata: com.zjdata: 未知的名称或服务
解决方法:
修改/etc/hosts文件
127.0.0.1 com.zjdata localhost.localdomain localhost
com.zjdata是新加的,原来没有,保存,问题解决。
至于启动时候为什么会报错,这个目前还没弄明白。
相关推荐
**二、Kafka配置** Kafka的配置主要通过修改`config/server.properties`文件完成。以下是一些关键配置项: 1. **broker.id**: 每个Kafka节点都有一个唯一的ID,用于标识自己。 2. **listeners**: 定义Kafka服务器...
Windows 环境 为zookeeper和kafka配置开机自启动服务。
### Kafka配置安装详解 #### 一、环境搭建与配置 Kafka是一款开源的消息队列中间件,被广泛应用于大数据处理领域。本篇文章将详细介绍如何在本地环境中安装并配置Kafka,以及进行基本的操作演示。 ##### 环境要求...
**Kafka安装配置教程完整版** Kafka是一种分布式流处理平台,由Apache软件基金会开发,广泛应用于大数据实时处理、消息传递以及日志收集系统。它以其高吞吐量、低延迟和可扩展性而闻名。在本文中,我们将详细介绍...
对于其他机器上的Kafka配置文件,同样需要修改`broker.id`为不同的值,例如1、2、3等。 ##### 5. 配置环境变量 为了方便使用Kafka命令,需要在每台机器上配置环境变量: ``` [root@c0~]# vim /etc/bashrc export ...
在本文中,我们将深入探讨如何在Apache Kafka中配置SASL/PLAIN认证机制,并通过具体的密码验证实现安全的通信。Kafka是一个分布式流处理平台,它在数据传输中扮演着重要角色,而安全性是其核心考量之一。SASL...
在这个“kafka完整安装配置.zip”压缩包中,包含了在Ubuntu 14上安装Kafka所需的所有文档和软件包,包括Zookeeper和Kafka本身。 **一、Kafka简介** Kafka是一个高吞吐量、低延迟的消息队列系统,其核心设计目标是...
Kafka 集群安装配置 Kafka 集群安装配置是指在多台服务器上部署 Kafka 集群,以便实现高可用性和高性能的消息队列系统。下面是 Kafka 集群安装配置的详细步骤和知识点: 一、环境准备 * 系统版本:CentOS Linux ...
总结来说,Kafka的安装和部署涉及到Java环境的准备、下载与解压Kafka、配置服务器属性、启动ZooKeeper和Kafka服务,以及创建和测试消息传递。了解这些基本步骤和概念对于理解和操作Kafka至关重要。在实际应用中,你...
本文档详细介绍了如何在Linux环境下安装和配置Kafka服务,包括下载Kafka压缩包、解压、配置Kafka和Zookeeper的相关参数、启动服务以及验证服务是否正常工作的全过程。按照这些步骤操作,可以帮助用户顺利完成Kafka...
本文档将指导您如何在 Windows 操作系统上配置并启动 Apache Kafka,包括安装 Java 和 Apache Zookeeper。 Java 安装 Java 是 Kafka 的依赖项,需要先安装 Java。下载 Server JRE 并安装,选择合适的版本和架构。...
Kafka 安装及详细介绍 Kafka 是一个高吞吐的分布式消息队列系统,具有生产者消费者模式,先进先出(FIFO)保证顺序,不丢失数据,默认每隔 7 天清理数据。事件记录了一个事实,即世界或企业中发生的“某些事情”。...
本篇将深入探讨如何配置一个使用端口9091到9093的Kafka集群,并结合Zookeeper的集群配置,确保服务的稳定运行。 **Kafka集群配置** 1. **节点设置**:首先,你需要至少三个Kafka节点来构建一个基础的集群。每个...
6. **启动Kafka**:在Kafka目录下启动Kafka服务,运行`bin/kafka-server-start.sh config/server.properties`。 7. **创建主题**:使用`kafka-topics.sh`工具创建主题,指定主题名、分区数和副本数。 8. **启动...
Kafka安装配置、快速启动及基本操作1、Kafka下载2、启动服务扩展知识:进程守护方法和前后台进程切换3、创建一个主题扩展知识:bootstrap-server和zookeeper使用区别4、删除主题5、发送消息6、消费消息7、设置多个...
在本电商数仓项目中,我们将深入探讨Apache Kafka的安装、配置以及基本操作。Kafka是一种分布式流处理平台,广泛应用于大数据实时处理和消息传递。它具有高吞吐量、低延迟、容错性强等特性,是构建现代数据架构的...
2. Kafka的安装与配置,作为数据传输的中间件。 3. Zookeeper的启动,作为Kafka的集群协调器。 4. Kafka消费者的开发,用于消费Canal推送的MySQL变更事件。 通过以上步骤,你可以在Windows环境中实现MySQL到Kafka的...
本教程将指导您在 Linux 环境中安装和配置 Kafka。 一、Kafka 安装 Kafka 可以通过两种方式安装:手动下载和命令下载。手动下载可以从 Apache Kafka 官方网站下载对应的版本,然后上传到服务器。命令下载可以使用 ...