`

hadoop-windows环境安装

阅读更多
1.简介
   windows下安装hadoop,这里采用hadoop-1.2.1其他的版本的都没有安装成功
2.cgywin环境安装及设置jdk软连接

下载安装cgywin:
在Select Packages界面里:
Category展开net,选择如下openssh和openssl两项

在Eclipe上编译Hadoop,需要安装Category为Base下的sed

在Cygwin上直接修改hadoop的配置文件,可以安装Editors下的vim


设置软连接:
在usr/local下执行 ln -s "C:/Program Files/Java/jdk1.7.0_67" jdk1.7 命令设置jdk软连接

3.ssh免登陆
  安装sshd服务:在cgywin中执行ssh-host-config -y 命令
 配置SSH免密码登录:
      执行ssh-keygen命令生成密钥文件: 
        ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa,注意-t -P -f参数区分大小写。
      生成authorized_keys文件
        cd ~/.ssh/
      cp id_dsa.pub authorized_keys
4.hadoop文件配置
这里编辑文件最好用vim编辑,如果用windows系统本身编辑器会出现错误
hadoop-env.sh文件
添加: export JAVA_HOME=/usr/local/jdk1.7

core-site.xml文件
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!-- Put site-specific property overrides in this file. -->
<configuration>
  <property>
    <name>fs.default.name</name>
    <value>hdfs://localhost:9000</value>
  </property>
  <property>
    <name>mapred.child.tmp</name>
    <value>/home/用户名/hadoop/tmp</value>
  </property>
</configuration>


hdfs-site.xml文件
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!-- Put site-specific property overrides in this file. -->
<configuration>
  <property>
  <name>dfs.replication</name>
  <value>1</value>
</property>
</configuration>


mapred-site.xml文件
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<!-- Put site-specific property overrides in this file. -->
<configuration>
  <property>
    <name>mapred.job.tracker</name>
    <value>localhost:9001</value>
  </property>
  <property>
    <name>mapred.child.tmp</name>
    <value>/home/用户名/hadoop/tmp</value>
  </property>
</configuration>

5.启动测试hadoop
在hadoop的bin目录下执行: ./hadoop namenode -format 格式化Hadoop的文件系统HDFS
在hadoop的bin目录下执行: ./start-all.sh 启动进程
6.eclipse环境配置hadoop
分享到:
评论

相关推荐

    hadoop-2.7.5 windows环境

    以上就是Hadoop 2.7.5在Windows环境下的安装、配置和运行过程。需要注意的是,由于Windows环境与Hadoop的Unix/Linux背景存在差异,可能会遇到权限、路径和网络等问题,需要根据实际情况进行调整。此外,Hadoop在...

    hadoop-2.6.1-windows.zip

    《Hadoop 2.6.1在Windows X64平台上的安装与配置详解》 Hadoop,这个由Apache基金会开发的分布式...这个过程可能需要一定的耐心和理解,但是一旦完成,你就能在本地Windows环境中享受Hadoop带来的强大分布式处理能力。

    hadoop-2.7.4-with-windows.tar.gz

    在Windows环境下安装和运行Hadoop,可能需要处理以下几点关键问题: 1. **Java环境**:Hadoop依赖Java运行环境,确保系统已安装JDK,并且`JAVA_HOME`环境变量指向正确的JDK路径。 2. **环境变量配置**:设置`HADOOP_...

    hadoop-3.1.0.rar windows 环境依赖

    在Windows环境下安装Hadoop 3.1.0,你需要以下步骤: 1. **安装Java环境**:首先,确保你的系统已经安装了Java Development Kit (JDK) 8或以上版本,因为Hadoop需要Java运行环境。 2. **解压Hadoop压缩包**:将...

    hadoop-common-2.7.3-bin-master-windows

    1. `hadoop.dll`:这是Hadoop在Windows环境下运行的一个重要依赖库,主要用于提供Hadoop与Windows操作系统的交互,如处理文件I/O、网络通信等。在配置时,确保该动态链接库被正确加载到系统路径中,否则可能会导致...

    hadoop-2.6.0 windows版本,bin目录包括hadoop.dll winutils.exe hadoop-2.6.0\bin

    1. **hadoop.dll**: 这是一个动态链接库文件,对Hadoop在Windows环境中的运行至关重要。它包含了Hadoop运行所需的函数库,使得Java编写的Hadoop程序能够调用操作系统级别的功能,如文件系统操作、网络通信等。在...

    hadoop插件apache-hadoop-3.1.0-winutils-master.zip

    在Windows环境下安装和使用Hadoop通常比在Linux上更为复杂,因为Hadoop最初是为Linux设计的。然而,通过特定的Windows适配器,如`winutils.exe`,用户可以在Windows系统上搭建Hadoop环境。 标题中的"apache-hadoop-...

    hadoop-2.7.7单机win7或win10搭建完整包

    4.把E:\apps\hadoop-2.7.7\bin\hadoop.dll拷贝到 C:\Windows\System32 5.设置环境变量,新建系统变量,变量名:HADOOP_HOME,变量值:E:\apps\hadoop-2.7.7;编辑 Path 变量增加 %HADOOP_HOME%\bin,重启电脑 6.在...

    apache-hadoop-3.1.3-winutils-master.zip

    在这个"apache-hadoop-3.1.3-winutils-master.zip"压缩包中,包含了在Windows环境下配置Hadoop HDFS客户端所需的组件,特别是`hadoop-winutils`和`hadoop.dll`这两个关键文件,它们对于在Windows系统上运行Hadoop...

    hadoop-common-2.6.0-bin-master.zip

    `hadoop-common-2.6.0-bin-master.zip` 是一个针对Hadoop 2.6.0版本的压缩包,特别适用于在Windows环境下进行本地开发和测试。这个版本的Hadoop包含了对Windows系统的优化,比如提供了`winutils.exe`,这是在Windows...

    hadoop-3.3.1 windows + apache-hadoop-3.1.0-winutils-master.zip

    在这个Windows版的Hadoop 3.3.1包中,包含了为Windows环境优化的配置和组件,使得在Windows平台上运行Hadoop成为可能。 Windows上的Hadoop通常需要一些额外的工具来辅助,其中之一就是winutils。Apache Hadoop ...

    hadoop.dll & winutils.exe For hadoop-2.7.1

    总的来说,Hadoop.dll和winutils.exe是Hadoop在Windows平台上运行的基石,它们使得开发者和数据工程师能够在Windows环境下开发、测试和运行Hadoop应用程序,扩大了Hadoop的适用范围。对于那些不便连接外网或者主要...

    apache-hadoop-3.1.0-winutils-master本地开发调试.zip

    "apache-hadoop-3.1.0-winutils-master"是针对Windows环境的一个特殊构建,包含了Hadoop在Windows上的运行所需的一些工具,如`winutils.exe`,它是Hadoop在Windows上运行的关键组件。在Win10环境下安装Hadoop 3.1.0...

    apache-hadoop-3.1.0-winutils-master.zip

    标题中的"apache-hadoop-3.1.0-winutils-master.zip"是一个专门为解决Windows 10上Hadoop安装问题的压缩包,它包含了一些修改后的bin目录文件,使得Hadoop可以在Windows环境中正常运行。 在Hadoop的默认下载版本中...

    eclipse运行mr插件hadoop-eclipse-plugin-2.6.0.jar

    本文将深入探讨如何使用Eclipse IDE结合hadoop-eclipse-plugin-2.6.0.jar插件,实现在Windows环境下进行远程连接到Hadoop集群,尤其适用于64位操作系统。 首先,我们要理解Hadoop的核心概念。Hadoop是由Apache基金...

    windows-hadoop-2.7.3

    在Windows环境下配置和使用Hadoop可能相对于Linux环境更为复杂,但通过提供的"windows-hadoop-2.7.3"压缩包,我们可以简化这个过程。 标题中的"windows-hadoop-2.7.3"表明这是一个专为Windows系统设计的Hadoop ...

    hadoop-eclipse-plugin插件和hadoop.dll和winutile.exe.zip

    综上所述,为了在Windows 10环境中使用Hadoop,你需要安装并配置好JDK,下载Hadoop 2.9.2并设置相应的环境变量,同时利用Eclipse 2020-03和Hadoop-Eclipse-Plugin插件进行开发。如果你已经启动了Eclipse,记得在安装...

    hadoop-common-2.2.0-bin-master.zip

    hadoop-common-2.2.0-bin-master(包含windows端开发Hadoop和Spark需要的winutils.exe),Windows下IDEA开发Hadoop和Spark程序会报错,原因是因为如果本机操作系统是windows,在程序中使用了hadoop相关的东西,比如写入...

    hadoop-common-2.2.0-bin-master(包含windows端开发Hadoop2.2需要的winutils.exe)

    `winutils.exe`是Hadoop在Windows环境下运行必不可少的一部分,它提供了类似于Linux环境下的`hadoop`命令行工具,如设置HDFS目录权限、启动或停止Hadoop服务等。在Windows上搭建Hadoop环境时,往往需要将`winutils....

    hadoop-common-2.7.3-bin-master包含hadoop.dll、winutils.exe

    标题中提到的`hadoop.dll`和`winutils.exe`是Windows环境下运行Hadoop所必需的二进制文件。在Windows系统上配置Hadoop环境时,这两个文件经常会出现问题,因为它们通常不包含在标准的Hadoop发行版中,需要额外下载或...

Global site tag (gtag.js) - Google Analytics