`

hadoop单机环境安装

阅读更多
root@alleni123

1. 首先下载http://www.apache.org/dyn/closer.cgi/hadoop/common/


2. 解压缩到usr/local/hadoop

3. 设置环境变量
sudo vi $HOME/.bashrc

加入
export HADOOP_PREFIX=/usr/local/hadoop
export PATH=$PATH:$HADOOP_PREFIX/bin

然后在终端窗口输入$PATH, 就可以看到hadoop/bin被加入进去了。


4. 在hadoop的配置文件中设置java路径, 告诉hadoop Java在哪里。
sudo vi /usr/local/hadoop/conf/hadoop-env.sh

找到#The java implementation to use. Required.
修改下面的java_home路径为系统上的jdk的home路径。

这里要禁止ipv6.
在#Extra Java runtime options. Empty by default下面修改为:
export HADOOP_OPTS=-Djava.net.preferIPV4Stack=true


5. 配置namenode端口地址
sudo vi /usr/local/hadoop/conf/core-site.xml

<configuration>
 <property>
  <name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>

<property>
   <name>hadoop.tmp.dir</name>
   <value>/usr/local/hadoop/tmp</value>
</property>

</configuration>



6.
sudo vi /usr/local/hadoop/conf/mapred-site.xml

<configuration>
 <property>
  <name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>
</configuration>

之前把name这里写成了mapred.jobtracker, 结果导致启动后jobtracker和tasktracker自动关闭。



7. sudo mkdir /usr/local/hadoop/tmp
sudo chown root /usr/local/hadoop/tmp
//这里配置,视频24分钟。 视频的窗口上方显示的是: nuggestuser@HNName
//而我的是root@alleni123
//视频的指令是 sudo chown nuggestuser /usr/local/hadoop/tmp
//所以我把nuggestuser改为root
//这里的chown指令如果不输入, 则会在执行format时抛出hadoop java.net.unknownhostexception
//说alleni123.linux:未知的名称或服务

8. hadoop namenode -format
//这里会出现错误, 参考==分界线下面的内容


9. 输入start-all.sh
然后输入jps
如果能看到
TaskTracker
JobTracker
NameNode
DataNode
SecondaryNameNode
Jps

那应该就是成功了。


====================

关于/etc/hosts

输入#hostname
可以看到我这里是alleni123.linux
也就是说, linux是我的localdomain, 而alleni123是localhost名称。

这样会导致一个错误,参考http://blog.csdn.net/shirdrn/article/details/6562292
Hadoop格式化HDFS报错java.net.UnknownHostException

因为hadoop找到了alleni123.linux, 却无法从这个域名映射我的localhost的地址。
所以就照着修改。
改了半天没作用。。
最后在http://www.jb51.net/LINUXjishu/10958.html看到赫然的四个字。
记得重启!!!
简直想骂人了。。

分享到:
评论

相关推荐

    Hadoop环境安装设置(最简单的hadoop单机环境部署教程)

    Hadoop环境安装设置(最简单的hadoop单机环境部署教程) 安装前设置 SSH设置和密钥生成 安装Java.下载Java (JDK&lt;最新版&gt; - X64 ... 下载Hadoop.下载来自Apache基金会软件,使用下面 ... Hadoop操作模式 在单机模式下...

    安装Hadoop(单机版和集群)步骤

    【安装Hadoop(单机版和集群)步骤】 在IT领域,Hadoop是一个分布式计算框架,主要用于处理和存储海量数据。本教程将详细介绍如何在Ubuntu 12.10操作系统上安装Hadoop的单机版和集群版。首先,确保你已经在VMware...

    hadoop单机版安装

    至此,Hadoop单机版已经成功安装并运行。通过这个过程,你可以深入了解Hadoop的基本架构和操作,为进一步学习Hadoop分布式集群打下基础。在实际生产环境中,Hadoop通常部署在多台机器上,以实现更高的可用性和性能。...

    Hadoop安装教程_单机/伪分布式配置_Hadoop2.7.1/Ubuntu 16.04

    本教程主要讲述了在 Ubuntu 16.04 环境下安装 Hadoop 2.7.1 的步骤,包括单机模式、伪分布式模式和分布式模式三种安装方式。以下是本教程的知识点总结: 1. 安装前的准备工作:创建 hadoop 用户,设置密码,增加...

    hadoop 单机安装

    本文详细介绍了如何在Linux系统中安装Hadoop单机模式,包括创建用户组、安装SSH服务、安装Java环境、配置环境变量等多个步骤。通过实际操作和测试,可以确保Hadoop能够正常运行,并为后续学习大数据处理技术打下坚实...

    从零起步搭建Hadoop单机和伪分布式开发环境图文教程.

    搭建Hadoop单机开发环境的步骤一般包括: 1. 安装和配置虚拟机:创建一个虚拟机实例,安装Ubuntu操作系统,设置内存、网络等。 2. 安装Java SDK:在Ubuntu系统中安装Java开发工具包,这是运行Hadoop的必要环境。 3. ...

    Hadoop安装教程_单机_伪分布式配置

    本文档将详细介绍如何在Ubuntu 14.04环境下安装配置Hadoop 2.6.0版本,包括单机模式和伪分布式模式。无论您是初学者还是有一定经验的技术人员,本教程都将帮助您顺利完成Hadoop的安装和配置。 #### 二、环境准备 1....

    hadoop单机版安装教程

    下面将详细介绍Hadoop单机版的安装步骤及相关知识点。 1. **系统要求** 在开始安装前,确保你的操作系统是Linux或Windows,并且有足够的硬盘空间,至少8GB。推荐使用64位系统,因为Hadoop不支持32位。对于Linux,...

    hadoop 单机安装和集群安装总结

    ### Hadoop单机安装与集群安装相关知识点 #### 一、文档概述 本文档主要针对Hadoop的安装和配置过程进行了详细的说明,旨在简化Hadoop的部署流程。它覆盖了Hadoop单机安装以及集群安装的过程,并且适用于CentOS 5/...

    Ubuntu下搭建Hadoop单机模式环境

    本文主要介绍了在Ubuntu系统上Hadoop单机版测试环境的搭建过程。

    hadoop单机配置

    hadoop单机配置是指在单个机器上安装和配置hadoop环境的过程。下面将逐步介绍hadoop单机配置的详细过程。 一、安装Linux操作系统 安装Linux操作系统是hadoop单机配置的第一步。在这里,我们选择了Ubuntu 11.10作为...

    Hadoop单机环境搭建.md

    Hadoop单机环境搭建,实战篇

    Cygwin+Eclipse搭建Hadoop单机开发环境-1

    在本文中,我们将深入探讨如何使用Cygwin和Eclipse搭建Hadoop的单机开发环境。Cygwin是一个为Windows操作系统提供Linux-like环境的开源工具,而Eclipse是一款流行的集成开发环境(IDE),广泛用于Java应用程序的开发...

    云计算应用实验报告 武汉理工大学云计算应用 hadoop单机模式和伪分布式

    实验主题:武汉理工大学云计算应用 - Hadoop单机模式与伪分布式 **实验目的与意义:** 本次实验旨在让学生理解并掌握Hadoop的两种基础运行模式:单机模式和伪分布式模式。Hadoop是云计算领域的重要组件,主要用于大...

    超详细单机版搭建hadoop环境图文解析

    在本篇文章中,我们将详细介绍如何在单机上搭建 Hadoop 环境,包括安装 Linux 操作系统、创建 Hadoop 用户组和用户、安装 JDK、修改机器名、安装 SSH 服务、建立 SSH 无密码登录等步骤。 安装 Linux 操作系统 在...

    ubuntu hadoop单机模式安装详解.pdf

    【标题】:Ubuntu环境下Hadoop单机模式安装详解 【描述】:本文档详细介绍了如何在Ubuntu操作系统上从零开始安装Hadoop,包括Linux安装、创建Hadoop用户组和用户、JDK安装、修改机器名、SSH服务安装以及实现SSH无...

    Linux下Hadoop单机配置文档

    通过本教程的学习,读者可以了解Hadoop单机模式的配置流程,并能够通过一个简单的WordCount程序来验证Hadoop的安装是否成功。需要注意的是,本文档使用的Hadoop版本较为陈旧,对于实际生产环境中Hadoop的配置和使用...

    Cygwin+Eclipse搭建Hadoop单机开发环境-3

    通过以上步骤,你就可以在Cygwin和Eclipse的帮助下,在Windows上建立一个完整的Hadoop单机开发环境。这个环境对于学习Hadoop、MapReduce编程以及进行数据处理实验非常有用。记得在操作过程中保持耐心,因为配置可能...

    单机版hadoop安装(linux)

    单机版 Hadoop 安装是指在单台机器上安装 Hadoop 环境,以便快速入门 Hadoop 和了解 Hadoop 的基本原理和使用方法。在这个安装过程中,我们将创建 Hadoop 用户组和用户,安装 JDK,配置环境变量,安装 SSH 服务,并...

Global site tag (gtag.js) - Google Analytics