`
落叶留步
  • 浏览: 53271 次
  • 性别: Icon_minigender_1
  • 来自: 上海
文章分类
社区版块
存档分类
最新评论

storm集群搭建

 
阅读更多

   前面已经搭好了zookeeper集群,下面开始搭建storm集群。

 

   1.机器准备 还是那三台

    172.17.0.2/172.17.0.3/172.17.0.4

 

    2.下载storm

     wget http://mirror.bjtu.edu.cn/apache/storm/apache-storm-1.0.1/apache-storm-1.0.1.tar.gz

 

    3.解压

     tar xvf xx.xx.tar.gz

 

     4.修改storm配置

      vi conf/storm.yaml   有些是手工加进去的配置

# Licensed to the Apache Software Foundation (ASF) under one
# or more contributor license agreements.  See the NOTICE file
# distributed with this work for additional information
# regarding copyright ownership.  The ASF licenses this file
# to you under the Apache License, Version 2.0 (the
# "License"); you may not use this file except in compliance
# with the License.  You may obtain a copy of the License at
#
# http://www.apache.org/licenses/LICENSE-2.0
#
# Unless required by applicable law or agreed to in writing, software
# distributed under the License is distributed on an "AS IS" BASIS,
# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
# See the License for the specific language governing permissions and
# limitations under the License.

########### These MUST be filled in for a storm configuration
storm.zookeeper.servers:
    - "172.17.0.2"
    - "172.17.0.3"
    - "172.17.0.4"
# port如果是2181可以不写这个配置
storm.zookeeper.port: 2181 

##########
# storm.local.dir: The Nimbus and Supervisor daemons require a directory on the local disk to 
# store small amounts of state (like jars, confs, and things like that). You should create that 
# directory on each machine, give it proper permissions, and then fill in the directory location using this config.
storm.local.dir: "/root/storm"

########## nimbus的ip
nimbus.seeds: ["172.17.0.2"]


########## supervisor机器的worker的端口号
# 写四个端口 表示这个机器最多可以启动四个worker ,,,三个端口则最多三个worker
supervisor.slots.ports:
    - 6700
    - 6701
    - 6702
    - 6703
# 
# 
# ##### These may optionally be filled in:
#
## List of custom serializations
# topology.kryo.register:
#     - org.mycompany.MyType
#     - org.mycompany.MyType2: org.mycompany.MyType2Serializer
#
## List of custom kryo decorators
# topology.kryo.decorators:
#     - org.mycompany.MyDecorator
#
## Locations of the drpc servers
# drpc.servers:
#     - "server1"
#     - "server2"

## Metrics Consumers
# topology.metrics.consumer.register:
#   - class: "org.apache.storm.metric.LoggingMetricsConsumer"
#     parallelism.hint: 1
#   - class: "org.mycompany.MyMetricsConsumer"
#     parallelism.hint: 1
#     argument:
#       - endpoint: "metrics-collector.mycompany.org"

    

    5.启动

     172.17.0.2 

  bin/storm nimbus &

     172.17.0.3

      bin/storm supervisor &

      172.17.0.4 

      bin/storm supervisor &

  可以启动ui方便浏览器查看:

  172.17.0.2上面执行

  bin/storm ui &

 

  6.通过浏览器访问

  http://172.17.0.2:8080

 

  7.测试word count

  bin/storm jar example/storm-starter/storm-starter-topologies-1.0.1.jar org.apache.storm.starter.WordCountTopology wc

 

  8.观察日志

  tail -f logs/workers-artifacts/wc-1-1464159627/6702/worker.log

 

  9.kill一个任务

  bin/storm kill wc

 

  

   

 

分享到:
评论

相关推荐

    Storm集群搭建

    【Storm集群搭建】是关于构建分布式实时计算系统Storm的集群过程。Storm是一个开源的、用于处理实时数据流的计算框架,常被用于大数据处理、实时分析等场景。在Storm集群中,主要有两种类型的节点——主控节点...

    storm集群搭建Java客户端测试代码.zip

    在本压缩包“storm集群搭建Java客户端测试代码.zip”中,包含了有关Apache Storm集群的搭建教程以及使用Java客户端进行测试的代码示例。Apache Storm是一个分布式实时计算系统,它允许开发者处理无界数据流,常用于...

    ApacheStorm集群搭建[整理].pdf

    ApacheStorm集群搭建[整理].pdf

    mykubernetes#hadoop#Storm集群搭建1

    1、查看nimbus的日志信息 2、查看ui运行日志信息 3、查看supervisor运行日志信息 4、查看supervisor上worker运行日志信息 5、

    Storm集群环境搭建

    本文将详细介绍Storm集群环境搭建的步骤,包括集群规划、前置条件、集群搭建、安装包分发、启动集群和高可用验证等方面。 一、集群规划 Storm集群环境搭建需要考虑多台服务器的规划,以确保高可用和负载均衡。在...

    Storm的集群搭建实战课程代码和PPT.rar

    【描述】:这份资源包含了关于Storm集群搭建的实战课程代码和配套的PPT讲解材料,是学习和掌握Apache Storm分布式流处理系统的重要参考资料。 【标签】:代码 【知识点详解】: 1. **Apache Storm**:Apache ...

    集群搭建与部署手册,结合实际工作。

    2. **Apache Storm集群搭建部署**: - Apache Storm是一个开源的实时计算系统,用于处理大规模的数据流,常用于实时数据分析和处理。 - 部署Storm需要下载最新版本的Storm,同样需要JDK支持。 - 配置`storm.yaml`...

    storm部署(包括所有依赖rpm包、集群搭建详解)

    本篇文章将详细解析如何进行Storm的部署,包括所需的依赖RPM包以及集群搭建步骤。 首先,Storm部署前需要准备的依赖RPM包主要包括Java开发环境(JDK)、Zookeeper、Nimbus、Supervisor和UI等组件。JDK是运行Storm的...

    storm集群环境搭建文档.txt

    storm集群环境搭建文档

    storm集群的搭建-java示例代码.zip

    Storm集群的搭建是大数据处理中的一个重要环节,尤其对于需要实时分析和处理连续数据流的应用场景,如实时日志分析、社交网络分析等。本资料包提供了一个基于Java的示例代码,将帮助我们了解如何在Java环境中配置和...

    01、Storm的集群搭建 01-storm简介.avi

    01、Storm的集群搭建 01-storm简介.avi

    01、Storm的集群搭建 04-storm部署概念.avi

    01、Storm的集群搭建 04-storm部署概念.avi

    01、Storm的集群搭建 03-storm部署-2.avi

    01、Storm的集群搭建 03-storm部署-2.avi

    从零开始搭建Storm集群

    ### 从零开始搭建Storm集群 #### 一、概述 Apache Storm 是一款开源的大规模实时计算系统,类似于Hadoop处理批量数据,Storm处理的是实时数据流。它支持各种编程语言,能够实现高吞吐量、低延迟的数据处理,并且...

    storm1.0 搭建

    ### Storm 1.0 集群搭建详解 #### 一、概述 Storm 是一个开源的分布式实时计算系统,能够处理大规模数据流。Storm 1.0 版本相较于之前的版本,在架构上进行了较大的改进,使得其在部署、管理以及性能上都有显著...

    基于Storm本地集群搭建实时统计CallLog实现可运行

    5. **本地集群搭建**:在本地机器上,你可以使用`storm local`命令快速启动一个本地模式的Storm集群,以便于调试。首先,确保已下载并安装了Storm,然后在Storm的bin目录下运行: ``` storm local ``` 这将在...

Global site tag (gtag.js) - Google Analytics