`

Hadoop2.2.0分布式安装

 
阅读更多
1、下载hadoop-2.2.0.tar.gz,解压tar -xzvf  hadoop-2.2.0.tar.gz

2、进入hadoop目录下创建tmp目录和dfs/data目录、dfs/name目录

3、进入配置文件存放目录${HADOOP_HOME}/etc/hadoop

3-1,修改hadoop-env.sh和yarn-env.sh中JAVA_HOME使之与系统一致

3-2,core-site.xml内容如下:
<configuration> 
<property> 
  <name>fs.defaultFS</name> 
  <value>hdfs://master:9101</value> 
<description></description> 
</property> 
<property> 
  <name>hadoop.tmp.dir</name> 
  <value>/root/hadoop-2.2.0/tmp</value> 
<description>tmp临时目录</description> 
</property> 
<property> 
  <name>io.native.lib.available</name> 
  <value>true</value> 
  <description>是否启用本地native库</description> 
</property>


3-3,hdfs-site.xml内容如下:

<configuration> 
<property> 
  <name>dfs.namenode.name.dir</name> 
  <value>/root/hadoop-2.2.0/dfs/name</value> 
</property> 
<property> 
  <name>dfs.datanode.data.dir</name> 
  <value>/root/hadoop-2.2.0/dfs/data</value> 
</property> 
<property> 
  <name>dfs.secondary.http.address</name> 
  <value>master:9001</value> 
</property> 
<property> 
<name>dfs.webhdfs.enabled</name> 
<value>true</value> 
</property> 
</configuration>


3-4、mapred-site.xml内容如下:

<configuration> 
    <property> 
        <name>mapreduce.framework.name</name> 
        <value>yarn</value> 
    </property> 
</configuration>


2-5、yarn-site.xml内容如下:


<configuration> 
<!-- Site specific YARN configuration properties --> 
<property> 
<name>yarn.resourcemanager.address</name> 
<value>master:8032</value> 
</property> 
<property> 
<name>yarn.resourcemanager.scheduler.address</name> 
<value>master:8030</value> 
</property> 
<property> 
<name>yarn.resourcemanager.webapp.address</name> 
<value>master:8088</value> 
</property> 
<property> 
<name>yarn.resourcemanager.resource-tracker.address</name> 
<value>master:8031</value> 
</property> 
<property> 
<name>yarn.nodemanager.aux-services</name> 
<value>mapreduce_shuffle</value> 
</property> 
</configuration>




3-5、根据实际情况修改masters文件slaves文件

4、利用scp将整个hadoop文件夹同步到各个节点

5、namenode格式化
hadoop namenode -format 或hdfs namenode -format

6、启动

start-dfs.sh && start-yarn.sh 或start-all.sh

启动完后在master上通过jps可查看到进程ResourceManager、SecondaryNameNode、NameNode;

在slave上可查看到NodeManager、DataNode。

此外,也可在web界面上查看,地址http://master:8088/cluster

若发现进程启动失败,则进入出错节点的${HADOOP_HOME}/logs目录下查看相应*.log文件
分享到:
评论

相关推荐

    Hadoop2.2.0 分布式安装指导

    Hadoop 2.2.0 分布式安装指导

    Hadoop2.2.0安装配置手册!完全分布式Hadoop集群搭建过程

    Hadoop2.2.0安装配置手册!完全分布式Hadoop集群搭建过程 按照文档中的操作步骤,一步步操作就可以完全实现hadoop2.2.0版本的完全分布式集群搭建过程

    如何在Windows下的eclipse调试Hadoop2.2.0分布式集群

    在Windows环境下,使用Eclipse进行Hadoop 2.2.0分布式集群的调试是一项重要的技能,这可以帮助开发者更好地理解和优化Hadoop程序。以下是一些关键的知识点,将指导你完成这个过程。 首先,Hadoop是一个开源的分布式...

    Hadoop2.2.0集群安装

    Hadoop2.2.0完全分布式集群平台安装设置 HDFS HA架构: 1、先设定电脑的IP为静态地址: 2、设置各个主机的hostname 3、在所有电脑的/etc/hosts添加以下配置: 4、设置SSH无密码登陆 5、下载解压hadoop-2.2.0.tar.gz...

    Hadoop 2.2.0 配置文件

    Hadoop 2.2.0 是 Apache Hadoop 的一个关键版本,它包含了众多改进和优化,使得这个分布式计算框架在处理大数据集时更加高效和稳定。在这个配置文件中,我们将会探讨Hadoop 2.2.0 在4台CentOS 6.4系统上运行所需的...

    Hadoop 2.2.0 64位native文件(重编译)

    Hadoop 2.2.0 是一个重要的分布式计算框架,主要设计用于处理和存储大量数据。这个64位的native文件是Hadoop针对64位Linux操作系统编译的一组库文件,它们对于Hadoop在Linux环境下高效运行至关重要。在Hadoop的源...

    hadoop2.2.0的64位安装包

    总结来说,安装64位的Hadoop 2.2.0涉及下载源代码、配置编译环境、编译源代码、安装和配置Hadoop以及启动服务。这个过程对于理解和掌握Hadoop的工作原理非常有帮助,同时也能确保在64位Linux系统上顺利运行大数据...

    hadoop2.2.0

    总结来说,Hadoop 2.2.0作为Hadoop的重要版本,不仅在分布式存储和计算上提供了高效、可靠的解决方案,还在资源管理、高可用性、安全性和性能优化等方面做出了显著改进,为大数据时代的数据处理奠定了坚实基础。...

    hadoop2.2.0伪分布式搭建

    此伪分布式搭建文件绝对正确,LZ亲自试验过。另,本文件为传智播客中使用文件,请勿用于商业用途,否则后果自负。

    Hadoop2.2.0安装配置手册!完全分布式Hadoop集群搭建过程.

    Hadoop2.2.0安装配置手册!完全分布式Hadoop集群搭建过程.

    Hadoop2.2.0安装配置及实例教程入门宝典

    《Hadoop2.2.0安装配置及实例教程入门宝典》 在大数据处理领域,Hadoop是一个不可或缺的工具,其分布式存储和计算能力为企业级数据处理提供了强大的支持。本教程将带你逐步走进Hadoop的世界,从零开始,教你如何在...

    hadoop2.2.0安装指南.docx

    《Hadoop 2.2.0 安装指南》 Hadoop是一款开源的分布式计算框架,主要用于处理和存储海量数据。本文将详细讲解如何在Linux环境下安装Hadoop 2.2.0版本。 首先,从Apache官方网站下载Hadoop 2.2.0的最新版本。请注意...

    CentOS6.5x64下安装19实体节点Hadoop2.2.0集群配置指南

    资源名称:CentOS 6.5 x64下安装19实体节点Hadoop 2.2.0集群配置指南内容简介: CentOS 6.5 x64下安装19实体节点Hadoop 2.2.0集群配置指南主要讲述的是CentOS 6.5 x64下安装19实体节点Hadoop 2.2.0集群配置指南;...

    Hadoop2.2.0环境测试详细傻瓜说明

    通过以上步骤,我们可以验证Hadoop2.2.0环境是否安装正确,以及MapReduce功能是否正常工作。这个简单的WordCount测试对于理解和熟悉Hadoop的基本操作非常有帮助,是初学者入门的必备步骤。如果你对Hadoop有足够了解...

    hadoop伪分布式搭建(超级详细)

    我们将基于提供的hadoop-2.2.0版本进行操作,并参考名为“hadoop2.2.0伪分布式搭建.txt”的指南文件。 首先,我们需要安装Java开发工具包(JDK),因为Hadoop是用Java编写的,依赖于JDK运行。确保你的系统已经安装...

    Centos 6.4下搭建Hadoop 2.2.0完全分布式集群

    本文档堪称最齐全的Hadoop-2.2.0搭建手册,不管是对于生手,还是对于想自己动手搭建的生手来说,都是非常有用的;因为自己是生手,看网上好多步骤,但还是有不懂的地方,所以自己整理下来了齐全的生手版,希望对一切...

    hadoop2.2.0部署

    ### Hadoop 2.2.0 部署详尽指南 #### 一、安装Linux **1. 安装wmware11** - **待补充:** 这部分需要更详细的说明来指导用户如何顺利安装wmware11,包括系统的最低配置要求、安装过程中需要注意的关键步骤等。 **...

Global site tag (gtag.js) - Google Analytics