`

storm install

阅读更多
CentOS Storm安装

1. jdk
jdk下载解压略

环境变量配置:
vi /etc/profile

JAVA_HOME=/usr/java/jdk1.6.0_45
CLASSPATH=.:$JAVA_HOME/lib.tools.jar
PATH=$JAVA_HOME/bin:$PATH
export JAVA_HOME CLASSPATH PATH

source /etc/profile
2. 搭建Zookeeper集群;
对于Zookeeper集群的话,官方推荐的最小节点数为3个

2.1 官方下载Zookeeper包
2.2在conf目录下创建Zookeeper配置文件zoo.cfg
tickTime=2000
# dataDir指定Zookeeper的数据文件目录
dataDir=/var/zookeeper/
clientPort=2181
initLimit=5
syncLimit=2
# server.id=host:port:port,id是为每个Zookeeper节点的编号保存在dataDir目录下的myid文件中
server.1=zoo1:2888:3888
2.3  在dataDir目录下创建myid文件,文件中只包含一行,且内容为该节点对应的server.id中的id编号。
2.4  启动Zookeeper服务
  /usr/local/zookeeper-3.4.5/bin/zkServer.sh  start #启动服务
  /usr/local/zookeeper-3.4.5/bin/zkServer.sh  status #查看状态
/usr/local/zookeeper-3.4.5/bin bin/zkCli.sh -server 127.0.0.1:2181 #客户端连接
3. 安装Storm依赖库;
3.1. ZeroMQ

官方下载
解压
./configure
make
sudo make install

如果安装过程中找不到依赖的程序请用yum安装
3.2. JZMQ

Github下载
解压
./autogen.sh
./configure
make
sudo make install
3.3. Python
官方下载
解压
./configure
make
sudo make install
3.4. Unzip
yum install unzip
4. 下载并解压Storm发布版本;
官方下载
解压
5. 修改storm.yaml配置文件
附上storm.yaml demo

1
Storm发行版本解压目录下有一个conf/storm.yaml文件,用于配置Storm。默认配置在这里可以查看。conf/storm.yaml中的配置选项将覆盖defaults.yaml中的默认配置。以下配置选项是必须在conf/storm.yaml中进行配置的:
2
storm.zookeeper.servers: Storm集群使用的Zookeeper集群地址,其格式如下:
storm.zookeeper.servers:
- “111.222.333.444″
- “555.666.777.888″
3
如果Zookeeper集群使用的不是默认端口,那么还需要storm.zookeeper.port选项。
4
storm.local.dir: Nimbus和Supervisor进程用于存储少量状态,如jars、confs等的本地磁盘目录,需要提前创建该目录并给以足够的访问权限。然后在storm.yaml中配置该目录,如:
storm.local.dir: "/home/admin/storm/workdir"
5
java.library.path: Storm使用的本地库(ZMQ和JZMQ)加载路径,默认为”/usr/local/lib:/opt/local/lib:/usr/lib”,一般来说ZMQ和JZMQ默认安装在/usr/local/lib 下,因此不需要配置即可。
6
nimbus.host: Storm集群Nimbus机器地址,各个Supervisor工作节点需要知道哪个机器是Nimbus,以便下载Topologies的jars、confs等文件,如:
nimbus.host: "111.222.333.444"
7
supervisor.slots.ports: 对于每个Supervisor工作节点,需要配置该工作节点可以运行的worker数量。每个worker占用一个单独的端口用于接收消息,该配置选项即用于定义哪些端口是可被worker使用的。默认情况下,每个节点上可运行4个workers,分别在6700、6701、6702和6703端口,如:
supervisor.slots.ports:
    - 6700
    - 6701
    - 6702
    - 6703

6. 启动Storm各个后台进程
nohup  /usr/local/storm-0.9.0.1/bin/storm nimbus >/dev/null 2>&1 &

nohup  /usr/local/storm-0.9.0.1/bin/storm ui >/dev/null 2>&1 &

nohup /usr/local/storm-0.9.0.1/bin/storm supervisor  >/dev/null 2>&1 &
7 提交jar至集群

nohup storm jar xxx.jar HelloTopology "test" &
分享到:
评论

相关推荐

    Flume+kafka+Storm整合

    - 安装telnet客户端,命令行输入 `yum install telnet`。 - 使用 `telnet localhost 5858` 发送数据,如:`hello world`。 #### 三、Kafka配置详解 1. **下载Kafka:** - 使用命令 `wget ...

    storm组件安装部署.doc

    可以通过`sudo yum install java-1.7.0-openjdk java-1.7.0-openjdk-devel`命令安装。安装完成后,设置JAVA_HOME环境变量,编辑`~/.bashrc`文件,添加`export JAVA_HOME=/usr/lib/jvm/java-1.7.0-openjdk`,然后执行...

    storm安装所需

    0-检查gcc,python版本:python -V,要有gcc-c++ 1-jdk安装 2-解压缩zk 3-安装zeromq configure: error: cannot link with -luuid, install uuid-dev rpm -ivh uuid-1.6.1-10.el6.x86_64.rpm ...修改/etc/hosts,storm.yaml

    storm_eclispe调试代码

    接着,通过Eclipse的"Help" -> "Install New Software"选项,添加Storm的插件如"Storm IDE"来支持Storm项目的创建和管理。 一旦开发环境配置完毕,创建一个新的Storm项目。在Eclipse中,选择"File" -> "New" -> ...

    storm配置文档.pdf

    - Storm集群的启动通过执行`storm nimbus`和`storm supervisor`命令来完成。 - 集群状态可以通过`storm ui`命令来监控。 #### 9. ZooKeeper集群配置注意事项 - 确保ZooKeeper集群中每个服务器的`myid`文件和`zoo....

    storm0.9,kafka安装说明详细操作步骤

    update-alternatives --install /usr/bin/java java /usr/java/jdk1.7.0_03/bin/java 60 update-alternatives --config java ``` 执行完以上步骤后,可以通过`java -version`命令验证JDK是否安装成功。 #### 1.2 ...

    storma集群安装手册(包含zookeeper集群安装和storm集群安装)

    mkdir -p /home/nimbus/install_tar/storm-local ``` - **编辑 storm.yaml 配置文件**: - 设置 Nimbus 和 Supervisor 的 IP 地址等信息。 - 调整 JVM 参数和其他配置。 - **步骤4**:编写启动脚本。 - **...

    storm-metrics-reporter:Storm指标报告器模块

    mvn install 屏幕截图 免责声明 这个项目的灵感来自 ,谢谢 ! 上面的屏幕截图是使用自定义StormMetricProcessor实现生成的,而不是源代码中包含的实现。 它描述了一种特定的Graphite命名约定(例如,主机

    storm-cassandra:Storm Cassandra集成

    Storm Cassandra集成通过提供一个通用且可配置的backtype.storm.Bolt实现将Storm和Cassandra集成, backtype.storm.Bolt实现将Storm ...从源头建造$ mvn install用法基本用法CassandraBolt , TridentCassandraLookupFu

    AMQP_Storm-1.3.3-py2.py3-none-any.whl.zip

    首先,运行 `pip install wheel` 如果还没有安装wheel库,然后在包含whl文件的目录下运行 `pip install AMQP_Storm-1.3.3-py2.py3-none-any.whl` 安装AMQP Storm。 5. **“使用说明.txt”**:这个文件可能包含关于...

    PyPI 官网下载 | sahara_plugin_storm-3.0.0-py3-none-any.whl

    接着,通过`pip install sahara_plugin_storm-3.0.0-py3-none-any.whl`命令,将`sahara_plugin_storm`库添加到Python环境中。之后,就可以利用库提供的功能来与Sahara接口交互,创建、配置和管理Storm集群,进行实时...

    AMQP_Storm-1.3.4-py2.py3-none-any.whl.zip

    安装AMQP_Storm时,首先需要解压"AMQP_Storm-1.3.4-py2.py3-none-any.whl.zip",然后使用Python的pip工具来安装wheel文件,命令可能是`pip install AMQP_Storm-1.3.4-py2.py3-none-any.whl`。在Python环境中,一旦...

    AMQP_Storm-1.3.2-py2.py3-none-any.whl.zip

    使用`pip install AMQP_Storm-1.3.2-py2.py3-none-any.whl`命令即可快速安装AMQP_Storm的这个版本。 3. Python版本兼容性:"py2.py3-none-any"这部分表示这个Wheel文件适用于Python 2和Python 3的任何架构("none...

    AMQP_Storm-1.3.1-py2.py3-none-any.whl.zip

    pip install AMQP_Storm-1.3.1-py2.py3-none-any.whl ``` 完成安装后,开发者就可以在他们的 Python 项目中导入并使用 AMQP_Storm 来处理 AMQP 相关的任务。具体的使用方法应参照 "使用说明.txt" 文件。为了更好地...

    基于storm实时热点统计的分布式并行缓存预热

    yum install -y unzip unzip lua-resty-kafka-master.zip cp -rf /usr/local/lua-resty-kafka-master/lib/resty /usr/hello/lualib nginx -s reload local cjson = require("cjson") local producer = require...

    AMQP_Storm-1.4.0-py2.py3-none-any.whl.zip

    使用`pip install <package_name>.whl`命令即可直接安装,相比pip install .tar.gz或.tar.bz2格式的源码包,安装速度更快,兼容性更好。 **Python 2与Python 3兼容**:`py2.py3-none-any`这部分表明这个轮子文件是...

    AMQP_Storm-1.2.7-py2.py3-none-any.whl.zip

    pip install AMQP_Storm-1.2.7-py2.py3-none-any.whl ``` 这将避免了对源代码的编译,使得安装过程更快捷。 **4. 使用说明.txt**: 压缩包中的"使用说明.txt"文件很可能是AMQP Storm库的使用指南,包含如何导入库、...

Global site tag (gtag.js) - Google Analytics