`

Hadoop 1.0 伪分布式 配置 (转载)

    博客分类:
  • Java
 
阅读更多

 

安装ssh

 

1 apt-get install ssh

 

安装rsync

 

 

1 apt-get install rsync

 

配置ssh免密码登录

 

 

1 ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
2 cat ~/.ssh/id_dsa.pub >>~/.ssh/authorized_keys

 

验证是否成功

 

 

1 ssh localhost

 

 

下载Hadoop1.0.0,JDK

新建 linux 终端,建立app目录,Java和Hadoop都将安装在此目录中。

 

1 mkdir /home/app

 

接下来,安装Java和Hadoop,Hadoop解压即可。

 

 

1 cd /home/app
2 chmod +x jdk-6u30-linux-i586.bin
3 ./jdk-6u30-linux-i586.bin
4
5 tar zxf hadoop-1.0.0-bin.tar.gz

 

配置JDK环境变量

 

1 vi /etc/profile

 

增加下面语句到最后

 

 

1 export JAVA_HOME=/home/app/jdk1.6.0_30
2 export PATH=$JAVA_HOME/bin:$PATH
3 export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

 

接下来开始配置Hadoop

 

进入Hadoop目录

 

1 cd /home/app/hadoop-1.0.0

 

修改配置文件,指定JDk安装路径

 

 

1 vi conf/hadoop-env.sh

 

1 export JAVA_HOME=/home/app/jdk1.6.0_30

 

修改Hadoop核心配置文件core-site.xml,这里配置的是HDFS的地址和端口号

 

 

1 vi conf/core-site.xml

 

1 <configuration>
2     <property>
3         <name>fs.default.name</name>
4         <value>hdfs://localhost:9000</value>   
5     </property>
6 </configuration>

 

修改Hadoop中HDFS的配置,配置的备份方式默认为3,因为安装的是单机版,所以需要改为1

 

 

1 vi conf/hdfs-site.xml

 

1 <configuration>
2     <property>
3         <name>dfs.replication</name>
4         <value>1</value>
5     </property>
6 </configuration>

 

修改Hadoop中MapReduce的配置文件,配置的是JobTracker的地址和端口

 

 

1 vi conf/mapred-site.xml

 

1 <configuration>
2     <property>
3         <name>mapred.job.tracker</name>
4         <value>localhost:9001</value>
5     </property>
6 </configuration>

 

接下来,启动Hadoop,在启动之前,需要格式化Hadoop的文件系统HDFS,进入Hadoop文件夹,输入下面命令

 

 

1 bin/hadoop namenode -format

 

然后启动Hadoop,输入命令

 

 

1 bin/start-all.sh

 

这个命令为所有服务全部启动。

 

最后,验证Hadoop是否安装成功。打开浏览器,分别输入一下网址:

http://localhost:50030    (MapReduce的Web页面)

http://localhost:50070    (HDfS的web页面)

如果都能查看,说明安装成功。

分享到:
评论

相关推荐

    Hadoop1.0伪分布式安装步骤

    开源思想,少要积分,仅供学习。 Hadoop1.0伪分布式安装步骤。 开源思想,少要积分,仅供学习。 Hadoop1.0伪分布式安装步骤。

    Linix下Hadoop的伪分布式配置

    在Linux环境下配置Hadoop的伪分布式模式是学习和测试Hadoop功能的重要步骤。这个模式允许你在单个节点上运行Hadoop,模拟多节点集群的行为,无需物理扩展硬件资源。以下是对配置过程的详细解释: 首先,你需要确保...

    Hadoop安装教程_单机_伪分布式配置

    ### Hadoop安装教程:单机与伪分布式配置详解 #### 一、引言 Hadoop是一种开源的大数据处理框架,广泛应用于数据存储和处理场景。本文档将详细介绍如何在Ubuntu 14.04环境下安装配置Hadoop 2.6.0版本,包括单机模式...

    2、大数据环境-安装Hadoop2.5.2伪分布式傻瓜教程

    2、大数据环境-安装Hadoop2.5.2伪分布式傻瓜教程 原创

    hadoop2.4.1伪分布式搭建

    hadoop2.4.1伪分布式搭建

    hadoop的伪分布式模式配置与安装

    ### Hadoop伪分布式模式配置与安装详解 #### 一、前言 在深入探讨Hadoop伪分布式模式的配置与安装之前,我们先简单回顾一下Hadoop的基本概念以及它为何重要。Hadoop是一个开源框架,用于分布式存储和处理大规模...

    Hadoop2.0.0伪分布式搭建

    最近自学hadoop2.0.0伪分布式搭建,都是一边学一边记录的 个人认为只要是稍微熟悉linux的都能看懂并搭建成功 分有点高,考虑好在下载

    hadoop伪分布式配置教程.doc

    【Hadoop 伪分布式配置教程】 本教程详细指导如何在Ubuntu 14.04 64位系统上配置Hadoop的伪分布式环境。虽然教程是基于Ubuntu 14.04,但同样适用于Ubuntu 12.04、16.04以及32位系统,同时也适用于CentOS/RedHat系统...

    VMware上CentOS7.0+Hadoop3.1伪分布式搭建

    在本教程中,我们将深入探讨如何在VMware虚拟机中安装CentOS7.0操作系统,并配置Hadoop3.1的伪分布式环境。这个过程对于学习Hadoop基础、大数据处理和分布式计算至关重要。以下是对整个搭建过程的详细步骤和知识点的...

    Cent7+Hadoop2.7.1伪分布式虚拟机VM15pro镜像

    大数据hadoop安装伪分布式成熟虚拟机镜像,只需改本地虚拟网卡ip地址为192.168.6.1,网关192.168.6.2即可

    hadoop 伪分布式环境配置

    "Hadoop 伪分布式环境配置" Hadoop 伪分布式环境配置是指在单机上模拟 Hadoop 分布式环境的配置过程。这种配置方式可以模拟分布式环境,方便开发者测试和调试 Hadoop 程序。下面是 Hadoop 伪分布式环境配置的详细...

    hadoop伪分布式安装.pdf

    在开始配置Hadoop伪分布式之前,需要确保已经完成了基本的环境搭建工作。主要包括: 1. **系统环境准备**:一般情况下,推荐使用Linux操作系统,因为它提供了良好的稳定性和性能。 2. **JDK安装**:Hadoop基于Java...

    hadoop2.2伪分布式集群搭建

    hadoop2.2伪分布式集群搭建 #查看防火墙状态 service iptables status #关闭防火墙 service iptables stop #查看防火墙开机启动状态 chkconfig iptables --list #关闭防火墙开机启动 chkconfig iptables off

    hadoop2.6.5伪分布式搭建

    在搭建 Hadoop 2.6.5 伪分布式环境时,我们需要经历一系列步骤,确保所有必要的组件正确配置。以下是一个详细的指南: 1. **安装基础工具**: - `ssh`:用于远程登录和无密码登录。 - `ant`:Apache Ant,构建 ...

    Linux下Hadoop伪分布式配置.pdf

    Linux 下 Hadoop 伪分布式配置 Hadoop 伪分布式模式是在单机上模拟 Hadoop 分布式,单机上的分布式并不是真正的伪分布式,而是使用线程模拟分布式。Hadoop 本身是无法区分伪分布式和分布式的,两种配置也很相似,...

    Hadoop3.1.3安装和单机/伪分布式配置

    ### Hadoop3.1.3安装与单机/伪分布式配置知识点详解 #### 一、实验目的和要求 - **掌握Hadoop3.1.3的安装与配置**:包括单机模式和伪分布式模式。 - **理解Hadoop的工作原理**:特别是其在不同模式下的运行机制。 ...

Global site tag (gtag.js) - Google Analytics