操作步骤:
1. 搭建Zookeeper;
2. 下载并解压Storm发布版本;
4. 修改storm.yaml配置文件;
5. 启动Storm各个后台进程。
备注:storm高版本以后,不需要安装zeroMQ,JzMQ 等一堆繁杂的组件,这是一个很大的改进
一、安装Zookeeper
[root@node1 opt]# mv zookeeper-3.4.6 zookeepe346
[root@node1 opt]# mv apache-storm-0.9.6 storm096
[root@node1 bin]# ./zkServer.sh start
JMX enabled by default
Using config: /opt/zookeepe346/bin/../conf/zoo.cfg
grep: /opt/zookeepe346/bin/../conf/zoo.cfg: No such file or directory
mkdir: `': No such file or directory
Starting zookeeper ... STARTED
[root@node1 bin]# jps
3725 Jps
[root@node1 bin]# cd ../conf/
[root@node1 conf]# ls
configuration.xsl log4j.properties zoo_sample.cfg
[root@node1 conf]# cp zoo_sample.cfg zoo.cfg
[root@node1 conf]# cd ../bin/
[root@node1 bin]# ./zkServer.sh start
JMX enabled by default
Using config: /opt/zookeepe346/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
[root@node1 bin]# jps
3772 Jps
3755 QuorumPeerMain
二、安装Storm
[root@node1 bin]# cd /opt/storm096/
[root@node1 storm096]# cd conf/
[root@node1 conf]# ls
storm_env.ini storm.yaml
[root@node1 conf]# vi storm.yaml
########### These MUST be filled in for a storm configuration
storm.zookeeper.servers:
- "localhost"
# - "server2"
#
nimbus.host: "192.168.1.113"
#
备注:storm.yaml 仅仅修改这两个地方
[root@node1 bin]# storm
File "/opt/storm096/bin/storm", line 61
normclasspath = cygpath if sys.platform == 'cygwin' else identity
^
SyntaxError: invalid syntax
解决方案:Python版本问题,storm096匹配python2.6版本,因为storm启动脚本使用的是Python语言写的
[root@node1 bin]# rpm -qa python
python-2.4.3-56.el5
三、 linux系统中安装python
$ tar –jxvf Python-2.6.6.tar.bz2
$ cd Python-2.6.6
$ ./configure
$ make
$ make install
测试
在命令行下输入python,出现python解释器即表示已经正确安装。
在suse10或rhel5(es5)下系统默认已经装了python但版本是2.4.x;本次安装后在shell中输入
#python
[root@node1 Python-2.6.6]# ln -s /usr/local/bin/python2.6 /usr/bin/python
ln: creating symbolic link `/usr/bin/python' to `/usr/local/bin/python2.6': File exists
[root@node1 Python-2.6.6]# rm -rf /usr/bin/python
[root@node1 Python-2.6.6]# ln -s /usr/local/bin/python2.6 /usr/bin/python
[root@node1 Python-2.6.6]# cd /opt/storm096/bin/
[root@node1 bin]# storm
Commands:
activate
classpath
deactivate
dev-zookeeper
drpc
help
jar
kill
list
localconfvalue
logviewer
monitor
nimbus
rebalance
remoteconfvalue
repl
shell
supervisor
ui
version
Help:
help
help <command>
Documentation for the storm client can be found at http://storm.incubator.apache.org/documentation/Command-line-client.html
Configs can be overridden using one or more -c flags, e.g. "storm list -c nimbus.host=nimbus.mycompany.com"
四、启动storm
[root@node1 bin]# storm nimbus &
[1] 25823
[root@node1 bin]# storm ui &
[2] 25834
[root@node1 bin]# storm supervisor &
[3] 25855
五、验证
http://192.168.1.113:8080/index.html
相关推荐
在分布式计算环境中,伪分布式模式是一种在单台机器上模拟多节点环境的设置,主要用于测试和学习目的。在Hadoop的伪分布式环境中,所有的Hadoop组件,包括NameNode、DataNode、Secondary NameNode、JobTracker和...
第2章详细讲解storm 集群环境的安装和搭建,以及如何将topology部署 到分布式环境中;第3章通过传感器数据实例详细 介绍Trident topology;第4章讲解如何使用Storm 和Tridentj挂行实时趋势分析;第5章介绍如何使用 ...
分布式实时数据流密度聚类算法是在大数据环境下处理海量数据流的关键技术之一。数据流聚类能够对连续、实时、高维和有序的数据流进行分析,其核心挑战在于能够实时处理增量数据、挖掘任意形状的簇、高效处理高速数据...
storm分布式实时计算,集成durid,zookeeper,hadoop等
Storm集群环境搭建是指在多台服务器上安装和配置Storm集群,实现高可用和负载均衡。Storm是一个分布式实时计算系统,能够对大量数据进行实时处理和分析。本文将详细介绍Storm集群环境搭建的步骤,包括集群规划、...
通过上述知识点的整合,可以得出结论,本文献提供了如何利用Storm和Kafka这两个分布式系统的关键组件,在火电厂环境中建立一个能够处理海量实时数据并进行有效分析的系统。这个系统的设计充分考虑了火电厂数据处理的...
妳那伊抹微笑_Flume+Kafka+Storm分布式环境整合Eclipse工程_20140714.rar 该文档与教程http://blog.csdn.net/u012185296/article/details/37762793配套使用的,主要讲的是Flume+Kafka+Storm的环境整合,并且全部都是...
1、storm task启动的时候,基于分布式锁将自己的taskid累加到一个znode中 2、开启一个单独的后台线程,每隔1分钟算出top3热门商品list 3、每个storm task将自己统计出的热数据list写入自己对应的znode中 4、task...
总结来说,基于Storm的分布式流计算集群配置涉及多个步骤,包括服务器角色分配、ZooKeeper集群的搭建、Storm服务的安装和配置,以及拓扑的构建和提交。正确配置这些组件,可以实现高效、稳定的数据流处理。
基于Storm的分布式实时信号处理系统是一种利用了Storm这一流式云计算系统进行实时数据处理的架构。Storm系统由Twitter公司开发,它是一个开源的分布式实时计算系统,提供了实时处理数据流的高效平台。Storm系统的...
使用Storm和Espertech进行分布式实时数据分析,以识别交通侵权后可能发生的车辆事故该项目的主要目标是确定过境侵权后可能引起的事故。 通过跨越有关累西腓市的侵权和事故的流数据,可以实现Thi。 在某个位置发生...
随着计算机技术、通信技术和数据处理技术的快速发展,多传感器...通过采用如Storm这样的分布式实时处理引擎,研究者和工程师们能够设计出更加强大和灵活的分布式数据融合系统,以应对日益增长的数据处理需求和复杂性。
【标题】:“批量下载】storm环境搭建v1等.zip”表明这是一个关于Storm环境搭建的教程或资源包,可能包含了从v1版本开始的各种版本的安装和配置步骤。 【描述】:“strom hadoop,批量下载】storm环境搭建v1等.zip...
综合案例:构建互联网高并发分布式服务器集群是分布式集群技术的实践经验,Hadoop 生态圈简介、Hadoop 伪分布式环境搭建、Hadoop 计算模型 MapReduce 例子说明等内容将为读者提供了分布式集群技术的实践经验。...
搭建Storm开发环境需要安装Java运行环境和Apache Storm软件包,并配置相应的环境变量。此外,还需要搭建Zookeeper集群来协调Storm集群的工作。 除了书籍《Getting Started with Storm》之外,还有一些社区和网站...
标题中的“一种基于Storm平台的分布式数字标牌广告投放方法”揭示了这个技术主题的核心,它涉及到大数据处理、实时计算以及广告系统在数字标牌领域的应用。以下是对这个主题的详细解析: 首先,Storm是一个开源的...
storm, 分布式和容错实时计算 重要的笔记 !风暴已经转移到了 Apache 。 官方的Storm git仓库现在由Apache托管,并在github上镜像:https://github.com/apache/incubator-storm通过 sumittin