`

kafka 安装、配置、启动

阅读更多

下载:

 下载地址:

https://www.apache.org/dyn/closer.cgi?path=/kafka/0.9.0.1/kafka_2.11-0.9.0.1.tgz 下的 http://apache.fayea.com/kafka/0.9.0.1/kafka_2.11-0.9.0.1.tgz

 

配置:config/server.properties
zookeeper.connect=localhost:2181                          配置连接zookeeper
log.dirs=/usr/local/kafka_2.11-0.9.0.1/kafka-logs     配置日志文件的路径

 

启动:

 kafka启动要依赖jdk和zookeeper 所以启动kafka之前先要先启动zookeeper

启动服务:切换到bin目录下运行下面命令

./kafka-server-start.sh  ../config/server.properties

启动生产方:

kafka-console-producer.sh --broker-list localhost:9092 --topic zj.entity.sss.update

启动消费方:

kafka-console-consumer.sh --zookeeper localhost:2181 --topic zj.* --from-beginning

 

设置为开机启动的做法:

 

方法一: /etc/rc.local中添加

/usr/local/kafka_2.11-0.9.0.1/bin/kafka-server-start.sh  /usr/local/kafka_2.11-0.9.0.1/config/server.properties

好像这种方式启动不是很稳定,有时候可以有时候不行???20160314

 方法二:

添加服务的方式启动kafka

step1: 进入到/etc/rc.d/init.d/目录下

cd /etc/rc.d/init.d 
step2:新建kafka文件
touch kafka

 step3:给kafka添加可执行权限

chmod +x kafka

 step4:编辑kafka 添加如下内容

#!/bin/bash
#chkconfig:2345 30 80
#description:kafka
#processname:kafka
case $1 in
 start) su root /usr/local/kafka_2.11-0.9.0.1/bin/kafka-server-start.sh  /usr/local/kafka_2.11-0.9.0.1/config/server.properties;;
 stop) su root /usr/local/kafka_2.11-0.9.0.1/bin/kafka-server-stop.sh  /usr/local/kafka_2.11-0.9.0.1/config/server.properties;;
 *)  echo "require start|stop"  ;;
esac

 注意:#chkconfig:2345 30 80  这里的30 要比 zookeerper 中的大,表示比其慢启动。80比zookeeper中的小,表示比其先关闭。这样改了之后还是启动不起来,20160320。

step5:要添加服务

chkconfig --add kafka

 step6:现在可以用下面命令来启动停止kafka服务

service kafka start/stop 

 step7:设置为开机启动

chkconfig kafka on 

 

集群配置:

常见错误: 

1,

启动kafka时如果报

java.net.UnknownHostException: com.zjdata: com.zjdata: 未知的名称或服务

解决方法:

修改/etc/hosts文件

127.0.0.1 com.zjdata localhost.localdomain localhost

com.zjdata是新加的,原来没有,保存,问题解决。

至于启动时候为什么会报错,这个目前还没弄明白。

 

分享到:
评论

相关推荐

    kafka安装与配置

    **二、Kafka配置** Kafka的配置主要通过修改`config/server.properties`文件完成。以下是一些关键配置项: 1. **broker.id**: 每个Kafka节点都有一个唯一的ID,用于标识自己。 2. **listeners**: 定义Kafka服务器...

    Windows zookeeper/kafka开启自启动

    Windows 环境 为zookeeper和kafka配置开机自启动服务。

    kafka配置安装详解

    ### Kafka配置安装详解 #### 一、环境搭建与配置 Kafka是一款开源的消息队列中间件,被广泛应用于大数据处理领域。本篇文章将详细介绍如何在本地环境中安装并配置Kafka,以及进行基本的操作演示。 ##### 环境要求...

    kafka安装配置教程完整版

    **Kafka安装配置教程完整版** Kafka是一种分布式流处理平台,由Apache软件基金会开发,广泛应用于大数据实时处理、消息传递以及日志收集系统。它以其高吞吐量、低延迟和可扩展性而闻名。在本文中,我们将详细介绍...

    Kafka安装(安装与配置).pdf

    对于其他机器上的Kafka配置文件,同样需要修改`broker.id`为不同的值,例如1、2、3等。 ##### 5. 配置环境变量 为了方便使用Kafka命令,需要在每台机器上配置环境变量: ``` [root@c0~]# vim /etc/bashrc export ...

    Kafka 配置用户名密码例子

    在本文中,我们将深入探讨如何在Apache Kafka中配置SASL/PLAIN认证机制,并通过具体的密码验证实现安全的通信。Kafka是一个分布式流处理平台,它在数据传输中扮演着重要角色,而安全性是其核心考量之一。SASL...

    kafka完整安装配置.zip

    在这个“kafka完整安装配置.zip”压缩包中,包含了在Ubuntu 14上安装Kafka所需的所有文档和软件包,包括Zookeeper和Kafka本身。 **一、Kafka简介** Kafka是一个高吞吐量、低延迟的消息队列系统,其核心设计目标是...

    Kafka集群安装配置.docx

    Kafka 集群安装配置 Kafka 集群安装配置是指在多台服务器上部署 Kafka 集群,以便实现高可用性和高性能的消息队列系统。下面是 Kafka 集群安装配置的详细步骤和知识点: 一、环境准备 * 系统版本:CentOS Linux ...

    Kafka安装与部署指南

    总结来说,Kafka的安装和部署涉及到Java环境的准备、下载与解压Kafka、配置服务器属性、启动ZooKeeper和Kafka服务,以及创建和测试消息传递。了解这些基本步骤和概念对于理解和操作Kafka至关重要。在实际应用中,你...

    Kafka安装手册(Linux)

    本文档详细介绍了如何在Linux环境下安装和配置Kafka服务,包括下载Kafka压缩包、解压、配置Kafka和Zookeeper的相关参数、启动服务以及验证服务是否正常工作的全过程。按照这些步骤操作,可以帮助用户顺利完成Kafka...

    windows安装配置运行kafka.doc

    本文档将指导您如何在 Windows 操作系统上配置并启动 Apache Kafka,包括安装 Java 和 Apache Zookeeper。 Java 安装 Java 是 Kafka 的依赖项,需要先安装 Java。下载 Server JRE 并安装,选择合适的版本和架构。...

    kafka安装及详细介绍

    Kafka 安装及详细介绍 Kafka 是一个高吞吐的分布式消息队列系统,具有生产者消费者模式,先进先出(FIFO)保证顺序,不丢失数据,默认每隔 7 天清理数据。事件记录了一个事实,即世界或企业中发生的“某些事情”。...

    cluster-kafka集群配置9091-9093

    本篇将深入探讨如何配置一个使用端口9091到9093的Kafka集群,并结合Zookeeper的集群配置,确保服务的稳定运行。 **Kafka集群配置** 1. **节点设置**:首先,你需要至少三个Kafka节点来构建一个基础的集群。每个...

    Kafka安装文档和安装包

    6. **启动Kafka**:在Kafka目录下启动Kafka服务,运行`bin/kafka-server-start.sh config/server.properties`。 7. **创建主题**:使用`kafka-topics.sh`工具创建主题,指定主题名、分区数和副本数。 8. **启动...

    2、Kafka安装配置、快速启动及基本操作教程

    Kafka安装配置、快速启动及基本操作1、Kafka下载2、启动服务扩展知识:进程守护方法和前后台进程切换3、创建一个主题扩展知识:bootstrap-server和zookeeper使用区别4、删除主题5、发送消息6、消费消息7、设置多个...

    电商数仓项目(七) kafka 安装、配置和简单操作 源码

    在本电商数仓项目中,我们将深入探讨Apache Kafka的安装、配置以及基本操作。Kafka是一种分布式流处理平台,广泛应用于大数据实时处理和消息传递。它具有高吞吐量、低延迟、容错性强等特性,是构建现代数据架构的...

    Canal 监听 Mysql 自动写入 Kafka 并消费 配置 Windows 版

    2. Kafka的安装与配置,作为数据传输的中间件。 3. Zookeeper的启动,作为Kafka的集群协调器。 4. Kafka消费者的开发,用于消费Canal推送的MySQL变更事件。 通过以上步骤,你可以在Windows环境中实现MySQL到Kafka的...

    linux安装kafka教程

    本教程将指导您在 Linux 环境中安装和配置 Kafka。 一、Kafka 安装 Kafka 可以通过两种方式安装:手动下载和命令下载。手动下载可以从 Apache Kafka 官方网站下载对应的版本,然后上传到服务器。命令下载可以使用 ...

Global site tag (gtag.js) - Google Analytics