`
wbj0110
  • 浏览: 1603784 次
  • 性别: Icon_minigender_1
  • 来自: 上海
文章分类
社区版块
存档分类
最新评论

Storm集群安装配置过程

阅读更多

首先:安装依赖包

1,  ZeroMQ 2.1.7

2,  JZMQ

3,  Java

4,  Python

5,  Unzip

这里只需要安装1,2就可以了。下面是遇到的一些问题:

安装zeroMQ

下载zeroMQ2.1.7  http://www.zeromq.org/area:download

解压:tar –xvf zeromq-2.1.7.tar.gz

Cd 到bin目录:

./autogen.sh  如果没有找到configure文件时要运行这一步。
./configure
configure: error: cannot link with -luuid, install uuid-dev. 运行时如果报这个错解决方案如下:
yum install uuid-dev 提示找不到该依赖包
yum install uuid*     直接用* ok
./configure  再次运行configure还是报错
configure: error: cannot link with -luuid, install uuid-dev.
上网搜索可能是还缺另外一个包
yum install e2fsprogs* ok
make install

安装JZMQ

a)        下载jzmq.zip   https://github.com/nathanmarz/jzmq

b)  Cd到bin目录./autogen.sh

c)  ./configure

d)   make install

安装storm集群

配置说明:10.10.249.195:nimbus   10.10.249.196: supervisor

Storm集群需要zookeeper集群的支持所以应该先安装zookeeper集群。再配置storm集群,下面是storm集群的配置:

10.10.249.195上的配置:

a)        下载storm-0.7.4.zip   https://github.com/nathanmarz/storm/downloads

b)        解压后修改conf/storm.yaml文件,

storm.zookeeper.servers:

    - "10.10.249.195"

    - "10.10.249.196"

c)        # nimbus.host:"nimbus" 这个不用改,nimbus负责提交任务,分配任务。相当于namenode节点。

配置好以后到bin目录下:

./storm nimbus     启动storm主节点服务

./storm ui                   启动storm监控页面:监控地址:http://hostname:8080

10.10.249.196上的配置:

1,修改storm.yaml 文件:

storm.zookeeper.servers:

    -"10.10.249.195"

    -"10.10.249.196"

nimbus.host: "10.10.249.195"

#这个是storm将要启动几个本地work,一个端口对应一个work。

supervisor.slots.ports:
    - 6700
    - 6701
    - 6702
    - 6703

2,启动supervisor

./storm supervisor

 

提交任务:

10.10.249.195上面:

./storm jar stormWork.jar SearchKeywordTopNTopology "word-count" 

 

监控storm运行情况:

 

转自换联网

 

分享到:
评论

相关推荐

    storm集群部署和配置过程详解

    Storm集群的部署和配置是构建实时大数据处理系统的关键步骤,本文将详细讲解这一过程。Storm是一个分布式实时计算系统,能够处理大规模数据流,确保每个事件都得到正确的处理。以下是搭建Storm集群的详细步骤: 1. ...

    storma集群安装手册(包含zookeeper集群安装和storm集群安装)

    整个过程分为三个主要部分:Java环境(JDK)的安装、Zookeeper集群的配置以及Storm集群的具体安装。 #### 二、安装前准备 在开始任何安装之前,请确保已经做好以下准备工作: - **硬件准备**:至少三台物理或虚拟机...

    Storm集群搭建

    【Storm集群搭建】是关于构建分布式实时计算系统Storm的集群过程。Storm是一个开源的、用于处理实时数据流的计算框架,常被用于大数据处理、实时分析等场景。在Storm集群中,主要有两种类型的节点——主控节点...

    storm集群安装

    ### Storm集群安装与配置知识点详解 #### 一、概述 Storm是一个免费且开源的分布式实时计算系统,可以处理大量的实时数据流。它被设计用于在集群环境中运行,能够确保每个消息都被正确处理,并且能够自动地恢复任何...

    storm集群启动与停止脚本共2页.pdf.zip

    停止storm集群的过程相对简单,基本顺序与启动相反: 1. **停止UI**:如果已启动,先通过`storm kill ui`关闭Web界面。 2. **停止Supervisor**:在所有worker节点上执行`storm stop supervisor`命令,关闭...

    从零开始搭建Storm集群

    ### 从零开始搭建Storm集群 #### 一、概述 Apache Storm 是一款开源的大规模实时计算系统,类似于Hadoop处理批量数据,Storm处理的是实时数据流。它支持各种编程语言,能够实现高吞吐量、低延迟的数据处理,并且...

    storm集群的搭建-java示例代码.zip

    同时,需要在所有参与集群的服务器上安装并配置好Zookeeper,它作为协调服务,管理Storm集群的状态。 2. **下载Storm**:从Apache官网下载最新稳定的Storm版本,并解压到服务器上。确保所有服务器上的Storm版本一致...

    storm集群部署手册

    - 复制上述过程安装三台虚拟机。 - 配置每台虚拟机的网络参数以实现互连。 #### 三、集群环境配置 **知识点7:配置hosts文件** - **目的:** - 使各节点之间可以通过主机名互相识别。 - **配置示例:** - 在...

    storm集群搭建Java客户端测试代码.zip

    在本压缩包“storm集群搭建Java客户端测试代码.zip”中,包含了有关Apache Storm集群的搭建教程以及使用Java客户端进行测试的代码示例。Apache Storm是一个分布式实时计算系统,它允许开发者处理无界数据流,常用于...

    storm配置文档.pdf

    - Storm集群由主节点(Master)和从节点(Slave)组成,主节点负责协调和管理,从节点负责执行计算任务。 - 示例中提供的IP地址和角色如下: - node1: ***.**.***.*** (主节点) - node2: ***.**.***.*** (从节点) ...

    storm部署(包括所有依赖rpm包、集群搭建详解)

    Zookeeper是一个分布式协调服务,用于管理Storm集群的元数据。Nimbus是Storm集群的主节点,负责任务分配和监控。Supervisor则是工作节点,每个节点上都运行一个Supervisor实例,管理worker进程。UI则提供了可视化...

    细细品味Storm_Storm简介及安装

    由于Zookeeper在Storm集群中扮演着协调角色,因此首先需要安装Zookeeper。步骤包括下载、配置环境变量、设置配置文件等。 **2.3 安装Storm** - **下载**:从官方网站下载Storm的安装包。 - **解压**:将安装包解压...

    Storm在Linux集群上运行.docx

    2. `storm-server`: 提供了Storm集群的服务器端组件,包括nimbus、supervisor等节点。 3. `jedis`: 这是Redis客户端,可能被用作Storm中的状态存储或缓存。 确保`pom.xml`配置正确后,接下来是编写Storm topology。...

    storm0.9x安装所需所有包(全)

    它包括了运行拓扑、管理和监控Storm集群所需的类和方法。 2. **依赖JARs**:Storm依赖于多个第三方库,如Zookeeper、Netty、A Commons Collections等,这些JAR文件是运行Storm必不可少的。 3. **配置文件**:如`...

    storm 流式处理 安装软件(包括zookeeper,jzmq,zeroMQ,storm)

    - 实践部署和监控Storm集群,了解如何调整参数优化性能。 - 探索Storm与其他技术(如Kafka、Hadoop等)的集成,实现数据管道的构建。 总之,Storm流式处理框架结合Zookeeper的协调能力与ZeroMQ的高效通信,为实时...

    stormp配置文件

    在这个“storm配置文件”压缩包中,我们很可能会找到与配置Apache Storm集群相关的文件。 Apache Storm的核心概念包括拓扑(Topology)、worker、bolts和spouts。拓扑是storm中的工作单元,由多个bolt和spout组成,...

    zk-kafka-redis-storm安装

    最后是Storm的安装,需要搭建Storm集群,配置nimbus、supervisor以及worker节点,同时编写和提交topology来定义实时数据处理逻辑。 在学习和实践这个过程时,你可能需要了解以下几个方面: 1. 分布式系统的基本概念...

    Storm的集群搭建实战课程代码和PPT.rar

    集群搭建涉及配置Zookeeper(协调服务)、安装JDK、下载Storm二进制包、配置环境变量、启动服务等多个步骤。 3. **lifeCycle**:这个文件可能包含了Storm组件生命周期的相关代码或文档,展示了从创建、启动到关闭的...

    lamp安装配置及flume+Kafka+Storm+HDFS实时系统搭分享

    在这个过程中,文档《Twitter Storm系列》flume-ng+Kafka+Storm+HDFS 实时系统搭建.docx和《安装扎记.pdf》将提供详细的步骤指导和常见问题解决方案,帮助你顺利完成整个系统的搭建和优化。 总的来说,LNMP与实时大...

Global site tag (gtag.js) - Google Analytics