`
dacoolbaby
  • 浏览: 1267195 次
  • 性别: Icon_minigender_1
  • 来自: 广州
社区版块
存档分类
最新评论

为hadoop0.20.2 配置Ganglia3.1.7

阅读更多

hadoop0.20.2,打了补丁以后,可以支持Ganglia3.X的监控。

如果不打补丁,就无法支持Ganglia3.X了。

 

安装说明等,完整下载地址:http://pan.baidu.com/s/1hqehLp6

 

1.用rpm检测依赖包情况

rpm -q gcc glibc glibc-common rrdtool rrdtool-devel apr  apr-devel expat expat-devel  pcre pcre-devel dejavu-lgc-sans-mono-fonts dejavu-sans-mono-fonts

 

2.下载安装缺失的依赖包

yum install apr-devel 

yum install expat-devel

yum install pcre-devel

 

yum install ruby

 

rrdtool-perl依赖包:

perl-Time-HiRes-1.9724-1.el6.rfx.x86_64.rpm

下载后直接安装 rpm -ivh xxx.rpm

 

安装rddtool

下载地址: http://packages.express.org/rrdtool/

需要三个rpm包一起安装,并且三个rpm包必须是同一个版本号。

rrdtool-1.4.5-1.el6.wrl.x86_64.rpm

rrdtool-devel-1.4.5-1.el6.wrl.x86_64.rpm

rrdtool-perl-1.4.5-1.slc6.wrl.x86_64.rpm

 

安装httpd (需要先安装apr apr-util)

tar -zxf httpd-2.2.23.tar.gz

cd httpd-2.2.23

./configure --prefix=/opt/apache

make && make install

 

安装php

tar -zxf php-5.5.14.tar.gz

cd php-5.5.14

###./configure --prefix=/usr/local/php  --with-apxs2=/opt/apache/bin/apxs  --with-mysql=/usr/include/mysql

./configure --prefix=/usr/local/php  --with-apxs2=/opt/apache/bin/apxs  --with-mysql

make && make install

 

安装ganglia core

依赖libconfuse包

libconfuse-2.5-4.el5.x86_64.rpm 

libconfuse-devel-2.5-4.el5.x86_64.rpm

 

要注意的是,Ganglia在安装时默认不安装gmetad,所以需要在configure时指定:--with-gmetad,还需要指定RRDTool库的路径:--with-librrd=… ! 

tar -zxf ganglia-3.1.7.tar.gz

cd ganglia-3.1.7

./configure --prefix=/usr/local/ganglia --with-gmetad --with-librrd=/usr/local/lib --enable-gexec --with-python=/usr --sysconfdir=/etc/ganglia

 

make && make install

 

 

安装ganglia-web

ganglia-web-3.5.7.tar.gz

tar -zxvf ganglia-web-3.5.7.tar.gz

 

 

 

启动httpd服务

/opt/apache/bin/apachectl start  (重启 restart)

 

查看httpd进程:

ps -aux | grep httpd 

打开IP地址80端口,看到It works!

 

vi /usr/local/apache2/htdocs/index.php 添加:

<? 

phpinfo(); 

?>

 

访问:http://10.0.37.64/index.php,访问成功!

 

 

配置Ganglia

*配置gmetad (主节点配置)

 

拷贝配置文件

 

cd /home/support/ganglia-3.1.7

cp ./gmetad/gmetad.init /etc/init.d/gmetad

cp ./gmetad/gmetad.conf /usr/local/ganglia/etc

 

cp ./gmond/gmond.init /etc/init.d/gmond

 

vi /etc/init.d/gmetad  --修改如下内容

GMETAD=/usr/local/ganglia/sbin/gmetad

 

vi /etc/init.d/gmond   --修改如下内容

GMOND=/usr/local/ganglia/sbin/gmond

 

 

将gmetad服务,gmond服务,设为开机自动运行

chkconfig --add gmond && chkconfig gmond on 

chkconfig --add gmetad && chkconfig gmetad on

 

生成gmond默认配置文件:

cd /home/support/ganglia-3.1.7

./gmond/gmond -t | tee /etc/ganglia/gmond.conf

 

配置Ganglia Web  路径必须这么配置,是Ganglia gmetad的路径配置,否则gmetad进程会启动失败

mkdir -p /var/www/html/ganglia 

cp -r /home/support/ganglia-3.1.7/web/* /var/www/html/ganglia/

mkdir -p /var/lib/ganglia/rrds 

chown nobody:nobody /var/lib/ganglia/rrds

 

创建? web前端配置文件/var/www/html/conf.php,指定gmetad中存储rrd图形的目录,以及rrdtool的位置:

$gmetad_root = "/var/lib/ganglia"; 

$rrds = "$gmetad_root/rrds"; 

  

define("RRDTOOL", "/usr/local/bin/rrdtool");

 

 

(A)配置服务端gmetad.conf文件

服务器端配置文件gmetad.conf,主要是配置data_source参数。它设定了被监控端服务器的地址及端口,可以指定多个被监控端服务器:

vi /etc/ganglia/gmetad.conf 

data_source "hadoop" 10 localhost 

gridname "hadoop status"    /*设置一个web前端显示的名称,随意命名。

 

修改port

The port gmetad will answer request for XML

default 8651    /* 开启端口 */

 

service gmetad start

 

(B)配置客户端gmond.conf文件

gmond.conf包括了几个部分:globals、cluster、udp_send_channel、udp_recv_channel等,

如果只是想要Ganglia简单地运行,两个操作就可以了,两个操作都是在cluster配置段中进行修改

命名一个cluster名称,名称与gmetad.conf中的data_source保持一致。我的命名:name = "hadoop"

修改tcp_accept_channel配置段如下:

01.tcp_accept_channel { 

02. port = 8649 

03. acl { 

04.    default = "deny" 

05.    access { 

06.      ip = 10.0.37.64 /*这里用来监控服务器的地址 

07.      mask = 32 

08.      action = "allow" 

09.      } 

10.   } 

11.}

 

service gmond start  //不配置acl,ip地址,可以启动成功,先测测

 

测试进程是否运行成功

telnet localhost 8649 # 检查gmond进程,如果出现XML就对了 

telnet localhost 8651 # 检查gmetad进程,如果出现XML就对了 

 

service gmond restart 

service gmetad restart 

 

cd /opt/apache/bin

./apachectl -k restart 

 

注意修改$HADOOP_HOME/conf/hadoop-metrics.properties

dfs.class=org.apache.hadoop.metrics.ganglia.GangliaContext31

dfs.period=10

dfs.servers=239.2.11.71:8649

端口是gmond默认的端口 

 

效果图:



 

 

 

refer to:http://hi.baidu.com/hovlj_1130/blog/item/e8fe89c3e9a67e160ff47755.html

完整下载地址:

http://pan.baidu.com/s/1hqehLp6

  • 大小: 53.4 KB
  • 大小: 81.4 KB
分享到:
评论

相关推荐

    hadoop0.20.2配置手册

    hadoop0.20.2版本在虚拟机中的安装指南,经过测试可以实现

    hbase-0.90.5.tar.gz与hadoop0.20.2版本匹配

    这个版本的HBase是针对Hadoop 0.20.2版本优化的,这意味着它可以在运行Hadoop 0.20.2集群的环境中稳定运行。用户在自己的本地虚拟机上成功安装并使用了这个版本,证明了它们之间的兼容性和稳定性。 HBase的主要特性...

    hadoop 0.20.2

    Hadoop 0.20.2还引入了安全性的改进,如Secure Hadoop功能,支持Kerberos认证,为Hadoop集群提供身份验证和授权,保护数据安全。这使得0.20.2版本适用于需要严格数据安全的企业环境。 在Hadoop 0.20.2中,文件系统...

    Hadoop 0.20.2 API文档

    这个版本的API文档详细地介绍了如何利用Java语言来与Hadoop生态系统进行交互,为开发人员提供了丰富的功能和工具,以实现大规模数据处理和存储。 Hadoop是一个由Apache基金会维护的开源项目,它的核心设计目标是...

    redHat linux下安装hadoop 0.20.2

    redHat linux下安装hadoop 0.20.2

    Hadoop 0.20.2 API

    Hadoop 0.20.2 API 是一个关键的开发资源,它为程序员提供了与Hadoop框架交互的接口和类的详细文档。Hadoop是一个开源的分布式计算框架,由Apache软件基金会维护,广泛用于大数据处理和分析。0.20.2是Hadoop的一个...

    hadoop 0.20.2版本

    Hadoop 0.20.2 是 Apache Hadoop 项目的一个关键版本,它是一个开源的分布式计算框架,专为处理和存储大规模数据而设计。Hadoop 的核心组件包括 HDFS(Hadoop Distributed File System)和 MapReduce,这两个部分...

    Ubuntu Hadoop 0.20.2 安装配置说明

    本文档旨在为初学者提供一份详细的指南,用于在 Ubuntu Server 12.04 x64 系统上安装并配置 Hadoop 0.20.2。通过本文档的学习,读者可以掌握如何搭建一个基本的 Hadoop 集群,执行简单的 HDFS 操作以及利用 ...

    hadoop0.20.2使用sqoop必需包

    hadoop使用sqoop-1.2.0-CDH3B4.tar.gz需要将此包的hadoop-core-0.20.2-CDH3B4拷贝到sqoop/lib目录下

    hadoop0.20.2

    在学习Hadoop 0.20.2 时,可以通过搭建本地或伪分布式环境来实践配置和使用HDFS及MapReduce。同时,理解Hadoop生态中的其他工具,如Pig、Hive和HBase,可以帮助更全面地掌握大数据处理的流程。 压缩包中的`hadoop-...

    Hadoop 0.20.2 版本安装包

    伪分布式安装包,Hadoop 1.0指的是版本为Apache Hadoop 0.20.x、1.x或者CDH3系列的Hadoop,内核主要由HDFS和MapReduce两个系统组成,其中,MapReduce是一个离线处理框架,由编程模型(新旧API)、运行时环境和数据...

    Hadoop 0.20.2在linux下配置

    ### Hadoop 0.20.2在Linux下的配置...通过上述详细步骤,可以确保Hadoop 0.20.2在Linux环境下成功安装与配置,为构建分布式计算环境打下坚实的基础。注意,实际操作中还需根据具体环境调整参数,确保集群稳定高效运行。

    fedora 安装hadoop0.20.2

    完成上述所有步骤后,Hadoop 0.20.2 在 Fedora 上的伪分布式环境就已经配置完毕。用户可以通过启动 HDFS 和 MapReduce 服务来进行分布式数据处理任务。 #### 六、注意事项与后续操作 - 在安装过程中,请确保所有的...

    hadoop 0.20.2 最新版

    hadoop 0.20.2 最新版 jar包 想下的下哈

    hadoop0.20.2的eclipse3.3.2插件开发环境集合

    hadoop0.20.2的eclipse3.3.2插件环境集合,包括hadoop0.20.2的eclipse3.3.2的插件,以及windows和linux下eclipse开发环境,还有帮助文档。

    Hadoop 0.20.2 API.chm

    Hadoop 0.20.2 API.chm英文版,期待翻译

    Ubuntu部署Hadoop0.20.2简要指南.pdf

    【Ubuntu部署Hadoop 0.20.2简要指南】是针对在Ubuntu 10.10系统上安装和配置Hadoop 0.20.204.0版本的详细步骤。以下是对该指南内容的详细解释: 1. **Java安装与环境配置**: 在部署Hadoop之前,需要先确保系统中...

Global site tag (gtag.js) - Google Analytics