前面已经搭好了zookeeper集群,下面开始搭建storm集群。
1.机器准备 还是那三台
172.17.0.2/172.17.0.3/172.17.0.4
2.下载storm
wget http://mirror.bjtu.edu.cn/apache/storm/apache-storm-1.0.1/apache-storm-1.0.1.tar.gz
3.解压
tar xvf xx.xx.tar.gz
4.修改storm配置
vi conf/storm.yaml 有些是手工加进去的配置
# Licensed to the Apache Software Foundation (ASF) under one # or more contributor license agreements. See the NOTICE file # distributed with this work for additional information # regarding copyright ownership. The ASF licenses this file # to you under the Apache License, Version 2.0 (the # "License"); you may not use this file except in compliance # with the License. You may obtain a copy of the License at # # http://www.apache.org/licenses/LICENSE-2.0 # # Unless required by applicable law or agreed to in writing, software # distributed under the License is distributed on an "AS IS" BASIS, # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. # See the License for the specific language governing permissions and # limitations under the License. ########### These MUST be filled in for a storm configuration storm.zookeeper.servers: - "172.17.0.2" - "172.17.0.3" - "172.17.0.4" # port如果是2181可以不写这个配置 storm.zookeeper.port: 2181 ########## # storm.local.dir: The Nimbus and Supervisor daemons require a directory on the local disk to # store small amounts of state (like jars, confs, and things like that). You should create that # directory on each machine, give it proper permissions, and then fill in the directory location using this config. storm.local.dir: "/root/storm" ########## nimbus的ip nimbus.seeds: ["172.17.0.2"] ########## supervisor机器的worker的端口号 # 写四个端口 表示这个机器最多可以启动四个worker ,,,三个端口则最多三个worker supervisor.slots.ports: - 6700 - 6701 - 6702 - 6703 # # # ##### These may optionally be filled in: # ## List of custom serializations # topology.kryo.register: # - org.mycompany.MyType # - org.mycompany.MyType2: org.mycompany.MyType2Serializer # ## List of custom kryo decorators # topology.kryo.decorators: # - org.mycompany.MyDecorator # ## Locations of the drpc servers # drpc.servers: # - "server1" # - "server2" ## Metrics Consumers # topology.metrics.consumer.register: # - class: "org.apache.storm.metric.LoggingMetricsConsumer" # parallelism.hint: 1 # - class: "org.mycompany.MyMetricsConsumer" # parallelism.hint: 1 # argument: # - endpoint: "metrics-collector.mycompany.org"
5.启动
172.17.0.2
bin/storm nimbus &
172.17.0.3
bin/storm supervisor &
172.17.0.4
bin/storm supervisor &
可以启动ui方便浏览器查看:
172.17.0.2上面执行
bin/storm ui &
6.通过浏览器访问
http://172.17.0.2:8080
7.测试word count
bin/storm jar example/storm-starter/storm-starter-topologies-1.0.1.jar org.apache.storm.starter.WordCountTopology wc
8.观察日志
tail -f logs/workers-artifacts/wc-1-1464159627/6702/worker.log
9.kill一个任务
bin/storm kill wc
相关推荐
【Storm集群搭建】是关于构建分布式实时计算系统Storm的集群过程。Storm是一个开源的、用于处理实时数据流的计算框架,常被用于大数据处理、实时分析等场景。在Storm集群中,主要有两种类型的节点——主控节点...
在本压缩包“storm集群搭建Java客户端测试代码.zip”中,包含了有关Apache Storm集群的搭建教程以及使用Java客户端进行测试的代码示例。Apache Storm是一个分布式实时计算系统,它允许开发者处理无界数据流,常用于...
ApacheStorm集群搭建[整理].pdf
1、查看nimbus的日志信息 2、查看ui运行日志信息 3、查看supervisor运行日志信息 4、查看supervisor上worker运行日志信息 5、
本文将详细介绍Storm集群环境搭建的步骤,包括集群规划、前置条件、集群搭建、安装包分发、启动集群和高可用验证等方面。 一、集群规划 Storm集群环境搭建需要考虑多台服务器的规划,以确保高可用和负载均衡。在...
【描述】:这份资源包含了关于Storm集群搭建的实战课程代码和配套的PPT讲解材料,是学习和掌握Apache Storm分布式流处理系统的重要参考资料。 【标签】:代码 【知识点详解】: 1. **Apache Storm**:Apache ...
2. **Apache Storm集群搭建部署**: - Apache Storm是一个开源的实时计算系统,用于处理大规模的数据流,常用于实时数据分析和处理。 - 部署Storm需要下载最新版本的Storm,同样需要JDK支持。 - 配置`storm.yaml`...
本篇文章将详细解析如何进行Storm的部署,包括所需的依赖RPM包以及集群搭建步骤。 首先,Storm部署前需要准备的依赖RPM包主要包括Java开发环境(JDK)、Zookeeper、Nimbus、Supervisor和UI等组件。JDK是运行Storm的...
storm集群环境搭建文档
Storm集群的搭建是大数据处理中的一个重要环节,尤其对于需要实时分析和处理连续数据流的应用场景,如实时日志分析、社交网络分析等。本资料包提供了一个基于Java的示例代码,将帮助我们了解如何在Java环境中配置和...
01、Storm的集群搭建 01-storm简介.avi
01、Storm的集群搭建 04-storm部署概念.avi
01、Storm的集群搭建 03-storm部署-2.avi
### 从零开始搭建Storm集群 #### 一、概述 Apache Storm 是一款开源的大规模实时计算系统,类似于Hadoop处理批量数据,Storm处理的是实时数据流。它支持各种编程语言,能够实现高吞吐量、低延迟的数据处理,并且...
### Storm 1.0 集群搭建详解 #### 一、概述 Storm 是一个开源的分布式实时计算系统,能够处理大规模数据流。Storm 1.0 版本相较于之前的版本,在架构上进行了较大的改进,使得其在部署、管理以及性能上都有显著...
5. **本地集群搭建**:在本地机器上,你可以使用`storm local`命令快速启动一个本地模式的Storm集群,以便于调试。首先,确保已下载并安装了Storm,然后在Storm的bin目录下运行: ``` storm local ``` 这将在...