`
xinklabi
  • 浏览: 1587886 次
  • 性别: Icon_minigender_1
  • 来自: 吉林
文章分类
社区版块
存档分类
最新评论

Ubuntu上搭建Hadoop环境(单机模式+伪分布模式)

 
阅读更多

转自:http://blog.csdn.net/hitwengqi/article/details/8008203

首先要了解一下Hadoop的运行模式:

单机模式(standalone)
       单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时,Hadoop会完全运行在本地。因为不需要与其他节点交互,单机模式就不使用HDFS,也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。
伪分布模式(Pseudo-Distributed Mode)
      伪分布模式在“单节点集群”上运行Hadoop,其中所有的守护进程都运行在同一台机器上。该模式在单机模式之上增加了代码调试功能,允许你检查内存使用情况,HDFS输入输出,以及其他的守护进程交互。
      全分布模式(Fully Distributed Mode)
     Hadoop守护进程运行在一个集群上。

 

版本:ubuntu 10.04.4,hadoop 1.0.2

1.添加hadoop用户到系统用户

安装前要做一件事——添加一个名为hadoop到系统用户,专门用来做Hadoop测试。

 

[html] view plaincopy
 
  1. ~$ sudo addgroup hadoop  
  2. ~$ sudo adduser --ingroup hadoop hadoop  

 

现在只是添加了一个用户hadoop,它并不具备管理员权限,因此我们需要将用户hadoop添加到管理员组:

 

[html] view plaincopy
 
  1. ~$ sudo usermod -aG admin hadoop  

 

2.安装ssh

 

由于Hadoop用ssh通信,先安装ssh

[html] view plaincopy
 
  1. ~$ sudo apt-get install openssh-server  

ssh安装完成以后,先启动服务:

[html] view plaincopy
 
  1. ~$ sudo /etc/init.d/ssh start   

启动后,可以通过如下命令查看服务是否正确启动:

[html] view plaincopy
 
  1. ~$ ps -e | grep ssh  

作为一个安全通信协议,使用时需要密码,因此我们要设置成免密码登录,生成私钥和公钥:

[html] view plaincopy
 
  1. hadoop@scgm-ProBook:~$ ssh-keygen -t rsa -P ""  

因为我已有私钥,所以会提示是否覆盖当前私钥。第一次操作时会提示输入密码,按Enter直接过,这时会在~/home/{username}/.ssh下生成两个文件:id_rsa和id_rsa.pub,前者为私钥,后者为公钥,现在我们将公钥追加到authorized_keys中(authorized_keys用于保存所有允许以当前用户身份登录到ssh客户端用户的公钥内容):

[html] view plaincopy
 
  1. ~$ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys  

现在可以登入ssh确认以后登录时不用输入密码:

[html] view plaincopy
 
  1. ~$ ssh localhost  

登出:

[html] view plaincopy
 
  1. ~$ exit  

第二次登录:

[html] view plaincopy
 
  1. ~$ ssh localhost  

登出:

[html] view plaincopy
 
  1. ~$ exit  

这样以后登录就不用输入密码了。

 

 

3.安装Java

 

[html] view plaincopy
 
  1. ~$ sudo apt-get install openjdk-6-jdk  
  2. ~$ java -version  

 

4.安装hadoop 1.0.2

官网下载hadoop源文件,这里选择hadoop 1.0.2

解压并放到你希望的目录中。我是放到/usr/local/hadoop

 

[html] view plaincopy
 
  1. ~$ sudo tar xzf hadoop-1.0.2.tar.gz  
  2. ~$ sudo mv hadoop-1.0.2 /usr/local/hadoop  

要确保所有的操作都是在用户hadoop下完成的:

[html] view plaincopy
 
  1. ~$ sudo chown -R hadoop:hadoop /usr/local/hadoop  

 

 

5.设定hadoop-env.sh(Java 安装路径)

进入hadoop目录,打开conf目录下到hadoop-env.sh,添加以下信息:
            export JAVA_HOME=/usr/lib/jvm/java-6-openjdk (视你机器的java安装路径而定)
            export HADOOP_HOME=/usr/local/hadoop
            export PATH=$PATH:/usr/local/hadoop/bin

 

并且,让环境变量配置生效source

 

[html] view plaincopy
 
  1. ~$ source /usr/local/hadoop/conf/hadoop-env.sh  

 

 

至此,hadoop的单机模式已经安装成功。


于是,运行一下hadoop自带的例子WordCount来感受以下MapReduce过程:

 

在hadoop目录下新建input文件夹

[html] view plaincopy
 
  1. ~$ mkdir input  

将conf中的所有文件拷贝到input文件夹中

[html] view plaincopy
 
  1. ~$ cp conf/* input<span style="font-family: Arial, Helvetica, sans-serif; white-space: normal; background-color: rgb(255, 255, 255); "> </span>  

运行WordCount程序,并将结果保存到output中

[html] view plaincopy
 
  1. ~$ bin/hadoop jar hadoop-0.20.2-examples.jar wordcount input output  

运行

[html] view plaincopy
 
  1. ~$ cat output/*  

你会看到conf所有文件的单词和频数都被统计出来。

 

下面是伪分布模式需要的一些配置,继续。

6.设定*-site.xml
这里需要设定3个文件:core-site.xml,hdfs-site.xml,mapred-site.xml,都在/usr/local/hadoop/conf目录下
core-site.xml:  Hadoop Core的配置项,例如HDFS和MapReduce常用的I/O设置等。
hdfs-site.xml:  Hadoop 守护进程的配置项,包括namenode,辅助namenode和datanode等。
mapred-site.xml: MapReduce 守护进程的配置项,包括jobtracker和tasktracker。    

首先在hadoop目录下新建几个文件夹

[html] view plaincopy
 
  1. ~/hadoop$ mkdir tmp  
  2. ~/hadoop$ mkdir hdfs  
  3. ~/hadoop$ mkdir hdfs/name  
  4. ~/hadoop$ mkdir hdfs/data  

接下来编辑那三个文件:

core-site.xml:

 

[html] view plaincopy
 
  1. <configuration>  
  2.     <property>  
  3.         <name>fs.default.name</name>  
  4.         <value>hdfs://localhost:9000</value>  
  5.     </property>  
  6.     <property>  
  7.         <name>hadoop.tmp.dir</name>  
  8.         <value>/usr/local/hadoop/tmp</value>  
  9.     </property>  
  10. </configuration>  

hdfs-site.xml:

 

 

[html] view plaincopy
 
  1. <configuration>  
  2.     <property>  
  3.         <name>dfs.replication</name>  
  4.         <value>1</value>  
  5.     </property>  
  6.     <property>  
  7.         <name>dfs.name.dir</name>  
  8.         <value>/usr/local/hadoop/hdfs/name</value>  
  9.     </property>  
  10.     <property>  
  11.         <name>dfs.data.dir</name>  
  12.         <value>/usr/local/hadoop/hdfs/data</value>  
  13.     </property>  
  14. </configuration>  

mapred-site.xml:

 

 

[html] view plaincopy
 
  1. <configuration>  
  2.     <property>  
  3.         <name>mapred.job.tracker</name>  
  4.         <value>localhost:9001</value>  
  5.     </property>  
  6. </configuration>  

 

7.格式化HDFS

通过以上步骤,我们已经设定好Hadoop单机测试到环境,接着就是启动Hadoop到相关服务,格式化namenode,secondarynamenode,tasktracker:

 

 

[html] view plaincopy
 
  1. ~$ source /usr/local/hadoop/conf/hadoop-env.sh  
  2. ~$ hadoop namenode -format  



8.启动Hadoop

接着执行start-all.sh来启动所有服务,包括namenode,datanode,start-all.sh脚本用来装载守护进程。

 

[html] view plaincopy
 
  1. hadoop@ubuntu:/usr/local/hadoop$ cd bin  
  2. hadoop@ubuntu:/usr/local/hadoop/bin$ start-all.sh  

用Java的jps命令列出所有守护进程来验证安装成功

[html] view plaincopy
 
  1. hadoop@ubuntu:/usr/local/hadoop$ jps  

出现如下列表,表明成功


9.检查运行状态
所有的设置已完成,Hadoop也启动了,现在可以通过下面的操作来查看服务是否正常,在Hadoop中用于监控集群健康状态的Web界面:
http://localhost:50030/     - Hadoop 管理介面
http://localhost:50060/     - Hadoop Task Tracker 状态
http://localhost:50070/     - Hadoop DFS 状态

Hadoop 管理介面:

Hadoop Task Tracker 状态:

Hadoop DFS 状态:

 

至此,hadoop的伪分布模式已经安装成功,于是,再次在伪分布模式下运行一下hadoop自带的例子WordCount来感受以下MapReduce过程:

这时注意程序是在文件系统dfs运行的,创建的文件也都基于文件系统:

首先在dfs中创建input目录

[html] view plaincopy
 
  1. hadoop@ubuntu:/usr/local/hadoop$ bin/hadoop dfs -mkdir input  

将conf中的文件拷贝到dfs中的input

[html] view plaincopy
 
  1. hadoop@ubuntu:/usr/local/hadoop$ hadoop dfs -copyFromLocal conf/* input  

在伪分布式模式下运行WordCount

[html] view plaincopy
 
  1. hadoop@ubuntu:/usr/local/hadoop$ hadoop jar hadoop-examples-1.0.2.jar wordcount input output  

可看到以下过程

显示输出结果

[html] view plaincopy
 
  1. hadoop@ubuntu:/usr/local/hadoop$ hadoop dfs -cat output/*  

当Hadoop结束时,可以通过stop-all.sh脚本来关闭Hadoop的守护进程

[html] view plaincopy
 
  1. hadoop@ubuntu:/usr/local/hadoop$ bin/stop-all.sh   

 

 

10.结语

     在ubuntu上搭建hadoop成功!有点小兴奋,已经迫不及待的想开始做一些相关的开发及深入理解hadoop内核实现,继续加油咯!

PS:单机模式和伪分布模式均用于开发和调试的目的。真实Hadoop集群的运行采用的是第三种模式,即全分布模式。待续。

 

本文参考了这两位同学的文章,感谢分享阿!

http://blog.sina.com.cn/s/blog_61ef49250100uvab.html

http://www.cnblogs.com/welbeckxu/category/346329.html

分享到:
评论

相关推荐

    Ubuntu下搭建Hadoop单机模式环境

    本文主要介绍了在Ubuntu系统上Hadoop单机版测试环境的搭建过程。

    用虚拟机在ubuntu上搭建hadoop平台的单机模式

    ### 使用虚拟机在Ubuntu上搭建Hadoop平台单机模式 #### 概述 本文旨在详细介绍如何在虚拟机环境下,利用Ubuntu系统搭建Hadoop平台的单机模式。通过本教程,您可以掌握从安装虚拟机到配置Hadoop环境的全过程。本文...

    ubuntu环境下hadoop环境搭建(伪分布模式)

    在Ubuntu环境下搭建Hadoop伪分布式模式,主要是为了模拟多节点Hadoop集群的环境,以便于学习和测试Hadoop的功能。这个过程涉及到多个步骤,包括必要的资源下载、软件安装、环境配置以及Hadoop服务的启动与验证。以下...

    从零起步搭建Hadoop单机和伪分布式开发环境图文教程.

    搭建Hadoop单机开发环境的步骤一般包括: 1. 安装和配置虚拟机:创建一个虚拟机实例,安装Ubuntu操作系统,设置内存、网络等。 2. 安装Java SDK:在Ubuntu系统中安装Java开发工具包,这是运行Hadoop的必要环境。 3. ...

    Ubuntu 1.04搭建hadoop单机版环境.pdf

    在本文中,我们将详细探讨如何在Ubuntu 12.04上搭建Hadoop单机版环境。Hadoop是一个开源的分布式计算框架,主要用于处理和存储大量数据。在单机环境中搭建Hadoop,主要目的是学习和测试Hadoop的功能,而不涉及实际的...

    ubuntu下搭建hadoop

    本文将详细介绍如何在 Ubuntu 操作系统下搭建 Hadoop 的单机版与伪分布式环境。 #### 2.1 Hadoop 的单机搭建 ##### 2.1.1 准备工作 1. **安装 Ubuntu 虚拟机**:首先,需要在虚拟机中安装 Ubuntu。推荐使用 ...

    超详细单机版搭建hadoop环境图文解析

    在本篇文章中,我们将详细介绍如何在单机上搭建 Hadoop 环境,包括安装 Linux 操作系统、创建 Hadoop 用户组和用户、安装 JDK、修改机器名、安装 SSH 服务、建立 SSH 无密码登录等步骤。 安装 Linux 操作系统 在...

    Ubuntu 1.04搭建hadoop单机版环境.docx

    现在,Hadoop单机环境已经准备就绪,可以进行简单的测试,例如运行WordCount示例程序。 Hadoop的集群搭建涉及到更多的配置,包括设置 slaves 文件、配置YARN、MapReduce等。此外,Hadoop的发展也一直在进行,其创始...

    Ubuntu11.10下安装Hadoop0.20.2(单机伪分布式)

    ### Ubuntu11.10下安装Hadoop0.20.2(单机伪分布式) #### 一、安装虚拟机VMware Workstation v7.1.4 在开始Hadoop的安装之前,首先需要在宿主机上安装虚拟机软件VMware Workstation v7.1.4。这一步主要是为了搭建...

    ubuntu hadoop单机模式安装详解.pdf

    【标题】:Ubuntu环境下Hadoop单机模式安装详解 【描述】:本文档详细介绍了如何在Ubuntu操作系统上从零开始安装Hadoop,包括Linux安装、创建Hadoop用户组和用户、JDK安装、修改机器名、SSH服务安装以及实现SSH无...

    ubuntu16.04搭建伪分布式文档

    本文档将指导您在Ubuntu 16.04上搭建伪分布式 Hadoop 环境。Hadoop 是一个分布式计算框架,可以处理大量数据。下面将详细介绍 Hadoop 的部署模式、单机安装、伪分布式配置和 MapReduce 示例。 Hadoop 部署模式 ...

    搭建Hadoop单机伪分布式环境1

    搭建Hadoop单机伪分布式环境是一项基础而重要的工作,尤其对于初学者来说,这有助于理解Hadoop的工作原理和运行机制。下面将详细讲解这个过程中的关键步骤和涉及的知识点。 首先,我们需要创建一个新的用户,例如名...

    Ubuntu16.04搭建Hadoop2.6.7-纯命令.docx

    本实验报告主要探讨了如何在Ubuntu 16.04操作系统上搭建Hadoop 2.6.7的伪分布式环境,同时涉及到了MapReduce和Spark的思想以及大数据体系框架的理解。 Hadoop的产生源自于对大规模数据处理需求的应对。早期的Nutch...

    Hadoop2单机伪分布搭建

    hadoop2 - 虚拟机VMWare - Linux(ubuntu) ,单节点伪分布环境搭建完整手册

    Hadoop2.2.0单机伪分布环境快速搭建手册

    hadoop2 - 虚拟机VMWare - Linux(ubuntu) ,单节点伪分布环境搭建快速手册,同之前上传的doc文档配套。

    hadoop伪分布配置

    Hadoop伪分布模式是一种在单台机器上模拟分布式环境的方式,通常用于开发测试阶段。这种方式既能够体验到Hadoop的分布式特性,又不需要复杂的多节点集群配置。本文将详细介绍如何在Ubuntu系统上搭建Hadoop伪分布环境...

    Ubuntu16.04搭建Hadoop2.6.7-图文详细版.docx

    ### Ubuntu16.04搭建Hadoop2.6.7-图文详细版 #### Hadoop基础知识 ##### Hadoop产生的背景与发展历程 Hadoop最初源于Nutch项目,该项目旨在创建一个全面的网络搜索引擎,涵盖网页抓取、索引及查询等功能。然而,在...

    大数据云计算技术系列 hadoop单机版搭建图文详解(共14页).pdf

    对于初学者或者希望在本地环境中进行测试和学习的开发者来说,搭建Hadoop单机版是一个很好的起点。本文将详细介绍如何在Ubuntu 10.10系统上搭建Hadoop 0.21.0的单机环境。 前置条件: 1. 安装Ubuntu 10.10操作系统...

    Hadoop伪分布式集群环境搭建

    本篇将详细介绍如何在本地计算机上搭建Hadoop的伪分布式集群环境,这非常适合初学者进行学习和测试。 首先,我们需要了解Hadoop的组成部分。Hadoop主要由两个核心组件构成:HDFS(Hadoop Distributed File System)...

Global site tag (gtag.js) - Google Analytics