`

hadoop在linux上单机安装过程

阅读更多

1、安装JDK

    jdk版本最好是1.6以上,可以使用执行命令java -version查看当前JAVA版本号,如果报命令不存在或版本比较低,则需要安装一个高版本的JDK,并在/etc/profile的文件末尾,根据本机JDK实际的安装位置加上以下几行:

   export JAVA_HOME=/usr/java/jdk1.7.0_25
   export PATH=$JAVA_HOME/bin:$PATH
   export CLASSPATH=$JAVA_HOME/lib:$JAVA_HOME/lib/tools.jar

2、下载hadoop并解压、移动

    hadoop.tar.gz安装

    上http://www.apache.org/dyn/closer.cgi/hadoop/common/可以选择自己想要的版本,我是用wget命令直接将hadoop下载下来:

    wget http://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-1.1.2/hadoop-1.1.2.tar.gz

    --解压文件,并将解压的文件夹重命名为/opt/hadoop,执行以下命令:

    tar -xvf hadoop-1.1.2.tar.gz

    mv hadoop-1.1.2 /opt/hadoop

    hadoop1.2.1_1.rpm安装

 

 

3、修改/opt/hadoop/conf文件夹下的4个配置文件

   a) hadoop-env.sh ,在该文件的末尾根据JDK安装目录增加以下几行:

       export JAVA_HOME=/usr/java/jdk1.7.0_25
       export HADOOP_HOME=/opt/hadoop
       export PATH=$PATH:/opt/hadoop/bin

   b)core-site.xml ,用以下配置替换文件内容

      <configuration>
        <property>
           <name>fs.default.name</name>
           <value>hdfs://localhost:9000</value>
        </property>
        <property>
            <name>hadoop.tmp.dir</name>
            <value>/tmp/hadoop/hadoop-${user.name}</value>
        </property>
     </configuration>

   c) hdfs-site.xml,用以下配置替换文件内容 ,因为单机,所以设置文件只要保存1份,系统默认是3份:


      <configuration>
         <property>
            <name>dfs.replication</name>
            <value>1</value>
         </property>
      </configuration>

    d) mapred-site.xml,用以下配置替换文件内容

        <configuration>
          <property>
               <name>mapred.job.tracker</name>
              <value>localhost:9001</value>
          </property>
       </configuration>

4、执行hadoop环境设置,并格式化hadoop文件系统,执行以下命令

      cd /opt/hadoop

      source conf/hadoop-env.sh

      hadoop namenode -format

5、最后一步:设置ssh免密登陆本机,执行以下命令:

      ssh-keygen -t rsa -P "" 输入这个命令后一直回车就可以了

      cat /root/.ssh/id_rsa.pub >> /root/.ssh/authorized_keys

     安全起见,你可以退出linux再以root登陆进来一下,我是没做这个步骤

6、启动hadoop,执行以下命令:

     cd /opt/hadoop

     ./bin/start-all.sh

7、测试hadoop文件系统

     在hadoop上创建文件夹,并上传一个文件,执行以下测试命令:

      hadoop fs -mkdir testfolder 创建文件夹

      hadoop fs -ls 列出hadoop文件列表

      hadoop fs -put /opt/hadoop/*.txt /user/root/testfolder 我把hadoop目录下的所有txt文件上传到hadoop的文件系统里头去

       hadoop fs -ls /user/root/testfolder 查看上传的文件列表

8、hadoop还有一个web管理控制台,可以通过http://liunxip地址:50030/来访问

分享到:
评论

相关推荐

    单机版hadoop安装(linux)

    单机版 Hadoop 安装(Linux) 单机版 Hadoop 安装是指在单台机器上安装 Hadoop 环境,以便快速入门 Hadoop 和了解 Hadoop 的基本原理和使用方法。在这个安装过程中,我们将创建 Hadoop 用户组和用户,安装 JDK,...

    Hadoop在Linux系统上的搭建

    1. **Java开发工具包(JDK)**:Hadoop是用Java编写的,因此在安装Hadoop之前,必须先安装JDK。文件`jdk-8u161-linux-x64.tar.gz`是适用于Linux的Oracle JDK的一个版本。安装步骤包括解压文件,设置环境变量`JAVA_...

    linux下载,安装,JDK配置,hadoop安装

    ### Linux下载、安装、JDK配置、Hadoop安装相关知识点 #### 一、Linux环境准备与安装 **1.1 Linux版本选择** - **CentOS 6.5**:适用于本教程,是一款稳定且广受支持的企业级操作系统。 **1.2 下载Linux** - **...

    Linuxhadoop集群安装

    下面,我们将深入探讨Hadoop在Linux环境下的安装过程,以及相关文件可能提供的详细信息。 首先,"jdk1.7 安装 .doc"文件很可能包含了Java Development Kit(JDK)的安装指南。Hadoop依赖Java运行环境,通常推荐使用...

    hadoop 单机安装

    本文将详细介绍如何在Linux环境下进行Hadoop单机模式的安装,并确保整个过程简单易懂且实用。 #### 二、环境准备 1. **操作系统**:建议使用Linux系统(如Ubuntu)。 2. **Java环境**:Hadoop需要Java运行环境支持...

    实验1 安装Hadoop.doc

    根据给定文件的信息,我们可以总结出以下几个重要的知识点: ...综上所述,通过本次实验,学生不仅能够学会如何在Linux虚拟机中搭建Hadoop集群,还能掌握Hadoop的基本使用技巧,为进一步学习大数据分析打下坚实基础。

    hadoop单机版安装

    2. 操作系统:Hadoop主要支持Linux操作系统,但也可以在Windows上通过 Cygwin 或 WSL (Windows Subsystem for Linux) 创建类似环境。 3. Java运行环境:Hadoop基于Java开发,因此需要先安装Java JDK,并设置好JAVA_...

    Linux下Hadoop单机配置文档

    通过本教程的学习,读者可以了解Hadoop单机模式的配置流程,并能够通过一个简单的WordCount程序来验证Hadoop的安装是否成功。需要注意的是,本文档使用的Hadoop版本较为陈旧,对于实际生产环境中Hadoop的配置和使用...

    搭建hadoop单机版+hbase单机版+pinpoint整合springboot.zip

    在单机版的安装中,我们首先需要下载Hadoop 2.7.3的版本,然后在CentOS7系统上进行配置。这包括设置环境变量、修改配置文件(如`core-site.xml`、`hdfs-site.xml`),确保Hadoop能够以本地模式运行。启动Hadoop后,...

    hadoop 单机安装和集群安装总结

    它覆盖了Hadoop单机安装以及集群安装的过程,并且适用于CentOS 5/RedHat 5.2(32位/64位)及Ubuntu等操作系统。 #### 二、Hadoop单机安装配置 ##### 1. Linux基础环境搭建 - **Linux安装**:通常推荐使用VMware等...

    hadoop单机配置

    hadoop单机配置是指在单个机器上安装和配置hadoop环境的过程。下面将逐步介绍hadoop单机配置的详细过程。 一、安装Linux操作系统 安装Linux操作系统是hadoop单机配置的第一步。在这里,我们选择了Ubuntu 11.10作为...

    Hadoop课程实验和报告——Hadoop安装实验报告

    整个过程包括了在Linux平台上的安装、配置和测试。需要注意的是,Hadoop支持三种运行模式:单机单节点模式、单机多节点的伪分布模式和多机多节点分布模式。 二、Hadoop和Eclipse的结合 Hadoop可以与Eclipse集成,...

    linux下安装hadoop伪分布与完全分布式安装

    Hadoop Hadoop Hadoop Hadoop Hadoop Hadoop Hadoop 伪分布式模是在单机上拟 伪分布式模是在单机上拟 伪分布式模是在单机上拟 伪分布式模是在单机上拟 伪分布式模是在单机上拟 伪分布式模是在单机上拟 伪分布式模是...

    Hadoop分布式存储系统在Linux环境下的安装配置指南

    本文详细讲解了Hadoop在Linux系统的安装与配置流程,具体包括安装Java、下载Hadoop源程序、基本环境变量和核心组件配置、文件系统格式化、启动集群并检查状态等一系列操作步骤。通过对每个环节的详述,帮助初学者...

    数据科学导论实验报告 实验1:常用Linux操作和 Hadoop操作

    单机安装配置涉及修改配置文件,如core-site.xml和hdfs-site.xml,以便Hadoop可以正确地在本地机器上运行。伪分布式安装则模拟多节点环境,但所有组件都在同一台机器上运行,这对于测试和学习非常有用。启动Hadoop后...

    Hadoop2.4环境搭建与安装详解

    Hadoop2.4linux安装配置过程详细过程。

    hadoop 组件详细安装步骤

    大数据组件 详细安装步骤(linux配置 hadoop集群搭建 hive flume kafka spark zk 搭建安装)

    hadoop环境配置(单机集群)

    本文旨在详细介绍如何在虚拟机上安装Hadoop环境,并搭建单机集群。通过图文并茂的方式,帮助读者深入理解每一个步骤。 #### 二、准备工作 为了确保安装过程顺利进行,首先需要准备以下环境: - **虚拟机版本**:VM...

    Hadoop系统安装运行与程序开发

    在安装Hadoop系统前,需要根据项目的实际需求选择合适的版本。Apache Hadoop官方提供多个版本供下载,包括0.20.x.x、0.21.x、0.22.x、0.23.x、1.0.x稳定版本,以及1.1.x版本(beta版)和2.x.x版本(alpha版)。不同...

Global site tag (gtag.js) - Google Analytics