`
gaojingsong
  • 浏览: 1182268 次
  • 性别: Icon_minigender_1
  • 来自: 深圳
文章分类
社区版块
存档分类
最新评论

新版Storm0.96环境伪分布式安装

阅读更多

操作步骤:

1. 搭建Zookeeper;
2. 下载并解压Storm发布版本;
4. 修改storm.yaml配置文件;
5. 启动Storm各个后台进程。
备注:storm高版本以后,不需要安装zeroMQ,JzMQ 等一堆繁杂的组件,这是一个很大的改进

 

一、安装Zookeeper
[root@node1 opt]# mv zookeeper-3.4.6 zookeepe346
[root@node1 opt]# mv apache-storm-0.9.6 storm096
[root@node1 bin]# ./zkServer.sh start
JMX enabled by default
Using config: /opt/zookeepe346/bin/../conf/zoo.cfg
grep: /opt/zookeepe346/bin/../conf/zoo.cfg: No such file or directory
mkdir: `': No such file or directory
Starting zookeeper ... STARTED
[root@node1 bin]# jps
3725 Jps
[root@node1 bin]# cd ../conf/
[root@node1 conf]# ls
configuration.xsl  log4j.properties  zoo_sample.cfg
[root@node1 conf]# cp zoo_sample.cfg  zoo.cfg
[root@node1 conf]# cd ../bin/
[root@node1 bin]# ./zkServer.sh start
JMX enabled by default
Using config: /opt/zookeepe346/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
[root@node1 bin]# jps
3772 Jps
3755 QuorumPeerMain


二、安装Storm
[root@node1 bin]# cd /opt/storm096/
[root@node1 storm096]# cd conf/
[root@node1 conf]# ls
storm_env.ini  storm.yaml
[root@node1 conf]# vi storm.yaml

########### These MUST be filled in for a storm configuration
 storm.zookeeper.servers:
     - "localhost"
#     - "server2"
#
 nimbus.host: "192.168.1.113"
#
备注:storm.yaml 仅仅修改这两个地方

[root@node1 bin]# storm
  File "/opt/storm096/bin/storm", line 61
    normclasspath = cygpath if sys.platform == 'cygwin' else identity
                             ^
SyntaxError: invalid syntax

解决方案:Python版本问题,storm096匹配python2.6版本,因为storm启动脚本使用的是Python语言写的
[root@node1 bin]# rpm -qa python
python-2.4.3-56.el5


三、 linux系统中安装python
    $ tar –jxvf Python-2.6.6.tar.bz2
  $ cd Python-2.6.6
  $ ./configure
  $ make
  $ make install
  测试
  在命令行下输入python,出现python解释器即表示已经正确安装。
  在suse10或rhel5(es5)下系统默认已经装了python但版本是2.4.x;本次安装后在shell中输入
  #python
[root@node1 Python-2.6.6]# ln -s /usr/local/bin/python2.6 /usr/bin/python
ln: creating symbolic link `/usr/bin/python' to `/usr/local/bin/python2.6': File exists
[root@node1 Python-2.6.6]# rm -rf /usr/bin/python
[root@node1 Python-2.6.6]# ln -s /usr/local/bin/python2.6 /usr/bin/python
[root@node1 Python-2.6.6]# cd /opt/storm096/bin/
[root@node1 bin]# storm
Commands:
        activate
        classpath
        deactivate
        dev-zookeeper
        drpc
        help
        jar
        kill
        list
        localconfvalue
        logviewer
        monitor
        nimbus
        rebalance
        remoteconfvalue
        repl
        shell
        supervisor
        ui
        version

Help:
        help
        help <command>

Documentation for the storm client can be found at http://storm.incubator.apache.org/documentation/Command-line-client.html

Configs can be overridden using one or more -c flags, e.g. "storm list -c nimbus.host=nimbus.mycompany.com"

四、启动storm
[root@node1 bin]# storm nimbus &
[1] 25823
[root@node1 bin]# storm ui &
[2] 25834
[root@node1 bin]# storm supervisor  &
[3] 25855

 

五、验证

http://192.168.1.113:8080/index.html

 

 

 

 

  • 大小: 259.9 KB
  • 大小: 62.2 KB
  • 大小: 70.9 KB
0
6
分享到:
评论

相关推荐

    伪分布式的Hadoop+Hive+HBase搭建记录[收集].pdf

    在分布式计算环境中,伪分布式模式是一种在单台机器上模拟多节点环境的设置,主要用于测试和学习目的。在Hadoop的伪分布式环境中,所有的Hadoop组件,包括NameNode、DataNode、Secondary NameNode、JobTracker和...

    细细品味Storm_Storm简介及安装

    第2章详细讲解storm 集群环境的安装和搭建,以及如何将topology部署 到分布式环境中;第3章通过传感器数据实例详细 介绍Trident topology;第4章讲解如何使用Storm 和Tridentj挂行实时趋势分析;第5章介绍如何使用 ...

    基于Storm的分布式实时数据流密度聚类算法.pdf

    分布式实时数据流密度聚类算法是在大数据环境下处理海量数据流的关键技术之一。数据流聚类能够对连续、实时、高维和有序的数据流进行分析,其核心挑战在于能够实时处理增量数据、挖掘任意形状的簇、高效处理高速数据...

    storm分布式实时计算

    storm分布式实时计算,集成durid,zookeeper,hadoop等

    Storm集群环境搭建

    Storm集群环境搭建是指在多台服务器上安装和配置Storm集群,实现高可用和负载均衡。Storm是一个分布式实时计算系统,能够对大量数据进行实时处理和分析。本文将详细介绍Storm集群环境搭建的步骤,包括集群规划、...

    基于Storm与Kafka集群的火电厂分布式流式数据建模与分析系统.pdf

    通过上述知识点的整合,可以得出结论,本文献提供了如何利用Storm和Kafka这两个分布式系统的关键组件,在火电厂环境中建立一个能够处理海量实时数据并进行有效分析的系统。这个系统的设计充分考虑了火电厂数据处理的...

    妳那伊抹微笑_Flume+Kafka+Storm分布式环境整合Eclipse工程_20140714.rar

    妳那伊抹微笑_Flume+Kafka+Storm分布式环境整合Eclipse工程_20140714.rar 该文档与教程http://blog.csdn.net/u012185296/article/details/37762793配套使用的,主要讲的是Flume+Kafka+Storm的环境整合,并且全部都是...

    基于storm实时热点统计的分布式并行缓存预热

    1、storm task启动的时候,基于分布式锁将自己的taskid累加到一个znode中 2、开启一个单独的后台线程,每隔1分钟算出top3热门商品list 3、每个storm task将自己统计出的热数据list写入自己对应的znode中 4、task...

    基于Storm的分布式流计算集群详细配置

    总结来说,基于Storm的分布式流计算集群配置涉及多个步骤,包括服务器角色分配、ZooKeeper集群的搭建、Storm服务的安装和配置,以及拓扑的构建和提交。正确配置这些组件,可以实现高效、稳定的数据流处理。

    基于Storm的分布式实时信号处理系统.pdf

    基于Storm的分布式实时信号处理系统是一种利用了Storm这一流式云计算系统进行实时数据处理的架构。Storm系统由Twitter公司开发,它是一个开源的分布式实时计算系统,提供了实时处理数据流的高效平台。Storm系统的...

    SD_Storm_CEP:使用Storm和Espertech进行分布式实时数据分析,以识别交通侵权后可能发生的车辆事故

    使用Storm和Espertech进行分布式实时数据分析,以识别交通侵权后可能发生的车辆事故该项目的主要目标是确定过境侵权后可能引起的事故。 通过跨越有关累西腓市的侵权和事故的流数据,可以实现Thi。 在某个位置发生...

    论文研究-基于Storm引擎的分布式数据融合系统的设计与实现 .pdf

    随着计算机技术、通信技术和数据处理技术的快速发展,多传感器...通过采用如Storm这样的分布式实时处理引擎,研究者和工程师们能够设计出更加强大和灵活的分布式数据融合系统,以应对日益增长的数据处理需求和复杂性。

    批量下载】storm环境搭建v1等.zip

    【标题】:“批量下载】storm环境搭建v1等.zip”表明这是一个关于Storm环境搭建的教程或资源包,可能包含了从v1版本开始的各种版本的安装和配置步骤。 【描述】:“strom hadoop,批量下载】storm环境搭建v1等.zip...

    分布式集群技术.pdf

    综合案例:构建互联网高并发分布式服务器集群是分布式集群技术的实践经验,Hadoop 生态圈简介、Hadoop 伪分布式环境搭建、Hadoop 计算模型 MapReduce 例子说明等内容将为读者提供了分布式集群技术的实践经验。...

    行业分类-设备装置-一种基于Storm平台的分布式数字标牌广告投放方法.zip

    标题中的“一种基于Storm平台的分布式数字标牌广告投放方法”揭示了这个技术主题的核心,它涉及到大数据处理、实时计算以及广告系统在数字标牌领域的应用。以下是对这个主题的详细解析: 首先,Storm是一个开源的...

    storm, 分布式和容错实时计算.zip

    storm, 分布式和容错实时计算 重要的笔记 !风暴已经转移到了 Apache 。 官方的Storm git仓库现在由Apache托管,并在github上镜像:https://github.com/apache/incubator-storm通过 sumittin

Global site tag (gtag.js) - Google Analytics