`

hadoop 安装配置(单机)

 
阅读更多

转自: http://blog.csdn.net/dragon_fire/article/details/7587226

 

下载完之后,命令行输入:tar -xzvf tar -xzvf hadoop-0.20.203.0rc1.tar.gz进行解压

重命名为hadoop

cd hadoop

cd conf/core-site

修改 conf/core-site.xml:

<configuration>

<property>

<name>fs.default.name</name>

<value>hdfs://localhost:9000</value>

</property>

</configuration>

gedit conf/hdfs-site.xml

 

修改conf/hdfs-site.xml:

<configuration>

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

</configuration>

gedit conf/mapred-site.xml

 

修改conf/mapred-site.xml:

<configuration>

<property>

<name>mapred.job.tracker</name>

<value>localhost:9001</value>

</property>

</configuration>

hadoop运行需要JDK支持,因此需要配置Java的安装路径

gedit conf/hadoop-env.sh

加入下面一行(由JDK具体安装的路径决定):

export JAVA_HOME=/usr/local/jdk1.6.0_25

创建一个新的分布式文件系统:

bin/hadoop namenode -format

 

bin/start-all.sh启动hadoop

结果没启动成功,看了下日志,发现出现了connect to host localhost port 22,原来是ssh没有装

 

apt-get install openssh-server 安装ssh

建立 SSH KEY: 

$ ssh-keygen -t rsa -P “” (注意不要多加空格或缺少空格)

中途需要安装者选择保存密钥的文件,按回车使用默认的文件就可以了:

Enter file in which to save the key (/root/.ssh/id_rsa):(按回车)

启用SSH KEY:

$ cat /root/.ssh/id_rsa.pub >> /root/.ssh/authorized_keys

/etc/init.d/ssh reload

reload ssh

ssh localhost

再次运行hadoop

bin/start-all.sh

发现如下错误 Unrecognized option: -jvm

可以根据这个链接进行修改

再次bin/start-all.sh

如果启动不起来 请先 bin/hadoop -namenode format

再bin/stop-all.sh,再bn/start-all.sh

接着访问http://localhost:50030,http://localhost:50070,如果成功打开了,说明安装成功了

 

接着安装eclipse

输入命令 apt-get install eclipse

安装完成之后

输入cp /usr/local/hadoop/contrib/eclipse-plugin/hadoop-eclipse-plugin-0.20.203.0.jar /usr/lib/eclipse/plugins

 

找到/usr/lib/eclipse 打开eclipse

windows->preferences

 

选择hadoop安装路径,选择好之后点击确定

 

 

 

 

 

 

配置后结果发现出错

发现没配置好

在终端中输入

$ gedit /etc/profile

修改运行环境,在文件最尾添加如下内容:

export HADOOP_HOME=/usr/local/hadoop (此处即为hadoop的安装目录)
export PATH=$PATH:#HADOOP_HOME/bin

接下来又会报出另外一个错误,请参照这个链接

 

 

分享到:
评论

相关推荐

    Hadoop安装教程_单机_伪分布式配置

    1. **权限问题**:确保所有的Hadoop配置文件和服务都是以hadoop用户身份运行的。 2. **网络问题**:检查网络配置是否正确,确保主机名解析正常。 3. **日志错误**:查阅Hadoop的日志文件,通常位于`$HADOOP_HOME/...

    hadoop单机配置方法

    ### Hadoop单机配置详解 在大数据处理领域,Apache Hadoop是一个开源软件框架,用于分布式存储和处理大型数据集。本文将详细介绍如何在单机环境下配置Hadoop,使其能够运行基本的大数据处理任务。 #### 一、配置...

    Hadoop安装教程_单机/伪分布式配置_Hadoop2.7.1/Ubuntu 16.04

    Hadoop安装教程_单机/伪分布式配置_Hadoop2.7.1/Ubuntu 16.04 本教程主要讲述了在 Ubuntu 16.04 环境下安装 Hadoop 2.7.1 的步骤,包括单机模式、伪分布式模式和分布式模式三种安装方式。以下是本教程的知识点总结...

    Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04

    Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04

    hadoop单机配置

    hadoop单机配置 hadoop单机配置是指在单个机器上安装和配置...hadoop单机配置需要安装Linux操作系统、创建hadoop用户组和用户、安装JDK、修改机器名、安装ssh服务、建立ssh无密码登录本机、安装hadoop等七个步骤。

    Hadoop安装教程_单机_伪分布式配置_Hadoop2.6.0_Ubuntu14.04_给力星.html

    网上找的,适合于原生Hadoop2,包括Hadoop 2.6.0, Hadoop 2.7.1 等版本,主要参考了官方安装教程,步骤详细,辅以适当说明,相信按照步骤来,都能顺利安装并运行Hadoop。

    Hadoop单机版配置详细介绍安装

    这是本人精心整理和编写的Hadoop单机版配置。详细描述了每一个步骤

    安装Hadoop(单机版和集群)步骤

    7. **修改Hadoop配置**:编辑`hadoop-1.0.4/conf/hadoop-env.sh`文件,添加`JAVA_HOME`设置: ``` export JAVA_HOME=/usr/lib/jvm/java-1.6.0-openjdk-i386 ``` 8. **配置Hadoop核心参数**:编辑`core-site.xml`...

    windows+inux安装+hadoop安装配置

    windows+linux双系统的安装,hadoop集群的安装配置,单机环境和多机环境的配置安装

    单机版hadoop安装(linux)

    单机版 Hadoop 安装的过程包括创建 Hadoop 用户组和用户,安装 JDK,配置环境变量,安装 SSH 服务,并最终安装 Hadoop。这些步骤将帮助我们快速入门 Hadoop 和了解 Hadoop 的基本原理和使用方法。

    Hadoop3.1.3安装和单机/伪分布式配置

    ### Hadoop3.1.3安装与单机/伪分布式配置知识点详解 #### 一、实验目的和要求 - **掌握Hadoop3.1.3的安装与配置**:包括单机模式和伪分布式模式。 - **理解Hadoop的工作原理**:特别是其在不同模式下的运行机制。 ...

    RedHatlinux9.0下Hadoop单机配置归类.pdf

    RedHat Linux 9.0 下 Hadoop 单机配置归类 ...本文档详细介绍了 Red Hat Linux 9.0 下 Hadoop 单机配置的步骤和要求,从 Hadoop 安装前提到 Hadoop 配置的详细步骤,帮助读者快速掌握 Hadoop 的安装和配置。

    单机Hadoop配置安装

    "单机Hadoop配置安装教程" 单机Hadoop配置安装是Hadoop beginners的不二之选,本篇文章将详细指导您如何在Windows平台上安装和配置Hadoop-2.5.2。通过亲自实验和实践,本教程将带您掌握单机Hadoop配置安装的所有...

    Linux下Hadoop单机配置文档

    通过本教程的学习,读者可以了解Hadoop单机模式的配置流程,并能够通过一个简单的WordCount程序来验证Hadoop的安装是否成功。需要注意的是,本文档使用的Hadoop版本较为陈旧,对于实际生产环境中Hadoop的配置和使用...

    hadoop环境配置(单机集群)

    修改Hadoop配置文件 接下来需要对Hadoop的配置文件进行修改,包括但不限于`core-site.xml`、`hdfs-site.xml`等。 **核心配置**: - `core-site.xml`:配置HDFS的入口,即NameNode的端口。 - `hdfs-site.xml`:配置...

    Hadoop安装配置与部署运行

    - 配置Hadoop配置文件,如`core-site.xml`, `hdfs-site.xml`, `mapred-site.xml`等。 - 初始化HDFS,格式化NameNode。 - 启动Hadoop服务。 9. 开发与调试 - 使用Eclipse IDE和Hadoop插件,创建MapReduce项目。 - ...

    hadoop-2.6.0单机模式配置文件

    本文将详细讲解如何配置Hadoop 2.6.0的单机模式,以便于初学者理解和实践。 一、Hadoop简介 Hadoop是由Apache基金会开发的分布式计算框架,基于Google的GFS(Google File System)和MapReduce模型。它的核心包括两...

    实验1 安装Hadoop.doc

    本环节重点在于让学生掌握Hadoop的安装配置流程以及基本使用方法,为后续的大数据分析任务打下坚实基础。通过实际操作加深对Hadoop分布式文件系统(HDFS)及MapReduce计算框架的理解。 ### 四、Hadoop的简单应用 #...

    hadoop-2.7.4 单机伪分布配置文件

    本教程将详细介绍"Hadoop-2.7.4 单机伪分布配置文件"的相关知识点,帮助你快速搭建本地单机模拟Hadoop集群环境。 首先,我们要理解什么是Hadoop的伪分布式模式。在伪分布式模式下,所有的Hadoop服务都在一台机器上...

Global site tag (gtag.js) - Google Analytics