64位windows安装hadoop没必要倒腾Cygwin,直接解压官网下载hadoop安装包到本地->最小化配置4个基本文件->执行1条启动命令->完事。一个前提是你的电脑上已经安装了jdk,设置了java环境变量。下面把这几步细化贴出来,以hadoop2.7.2为例
1、下载hadoop安装包就不细说了:http://hadoop.apache.org/->左边点Releases->点mirror site->点http://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common->下载hadoop-2.7.2.tar.gz;
2、解压也不细说了:复制到D盘根目录直接解压,出来一个目录D:\hadoop-2.7.2,配置到环境变量HADOOP_HOME中,在PATH里加上%HADOOP_HOME%\bin;点击http://download.csdn.net/detail/wuxun1997/9841472下载相关工具类,直接解压后把文件丢到D:\hadoop-2.7.2\bin目录中去,将其中的hadoop.dll在c:/windows/System32下也丢一份;
3、去D:\hadoop-2.7.2\etc\hadoop找到下面4个文件并按如下最小配置粘贴上去:
core-site.xml
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
hdfs-site.xml
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/hadoop/data/dfs/namenode</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/hadoop/data/dfs/datanode</value>
</property>
</configuration>
mapred-site.xml
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>
yarn-site.xml
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
<value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>
</configuration>
4、启动windows命令行窗口,进入hadoop-2.7.2\bin目录,执行下面2条命令,先格式化namenode再启动hadoop
D:\hadoop-2.7.2\bin>hadoop namenode -format
.
.
.
D:\hadoop-2.7.2\bin>cd ..\sbin
D:\hadoop-2.7.2\sbin>start-all.cmd
This script is Deprecated. Instead use start-dfs.cmd and start-yarn.cmd
starting yarn daemons
D:\hadoop-2.7.2\sbin>jps
4944 DataNode
5860 NodeManager
3532 Jps
7852 NameNode
7932 ResourceManager
D:\hadoop-2.7.2\sbin>
通过jps命令可以看到4个进程都拉起来了,到这里hadoop的安装启动已经完事了。接着我们可以用浏览器到localhost:8088看mapreduce任务,到localhost:50070->Utilites->Browse the file system看hdfs文件。如果重启hadoop无需再格式化namenode,只要stop-all.cmd再start-all.cmd就可以了。
上面拉起4个进程时会弹出4个窗口,我们可以看看这4个进程启动时都干了啥
1.创建输入目录
D:\hadoop\hadoop\bin>hadoop fs -mkdir hdfs://localhost:9000/user/
D:\hadoop\hadoop\bin>hadoop fs -mkdir hdfs://localhost:9000/user/wcinput
2.上传数据到目录
D:\hadoop\hadoop\bin>hadoop fs -put D:\file1.txt hdfs://localhost:9000/user/wcinput
D:\hadoop\hadoop\bin>hadoop fs -put D:\file2.txt hdfs://localhost:9000/user/wcinput
3.查看文件
D:\hadoop\hadoop\bin>hadoop
fs -ls hdfs://localhost:9000/user/wcinput
分享到:
相关推荐
这个资源包"Hadoop 2.7.2 (Window版本)"是专为在Windows操作系统上进行大数据开发设计的,它包含了Hadoop在Windows环境下的安装、配置和运行所需的所有组件。 Hadoop的核心由两个主要部分组成:HDFS(Hadoop ...
6. **启动Hadoop**:使用`bin\start-dfs.bat`和`bin\start-yarn.bat`脚本启动Hadoop服务。注意,Windows下运行Hadoop可能存在一些挑战,如文件路径长度限制,需要进行适当调整。 7. **运行示例**:一旦Hadoop成功...
最后,启动Hadoop服务,如NameNode和DataNode,你可以通过`sbin`目录下的脚本来完成。例如: ```shell start-dfs.cmd start-yarn.cmd ``` 至此,你已经成功配置了基于Windows的Hadoop 2.7.2开发环境。现在可以编写...
在这个名为“hadoop2.7.2安装依赖文件.zip”的压缩包中,包含了一系列在Windows环境下安装和运行Hadoop 2.7.2版本所必需的组件。下面我们将详细探讨这些文件及其在Hadoop生态系统中的作用。 首先,`hadoop.dll`是一...
这个压缩包文件“win10下编译过的hadoop2.7.2 jar包”是专门为在Windows 10操作系统上运行Hadoop 2.7.2版本而准备的。这个版本的Hadoop包含了所有必要的库文件和依赖,使得开发者能够在本地环境中配置和运行Hadoop...
以上就是在Windows 7环境中安装和配置Hadoop 2.7.2所需的关键步骤,其中hadoop.dll和winutils.exe是两个不可或缺的部分。确保这些文件正确配置并能够被系统识别,是成功运行Hadoop的前提。理解这两个文件的作用以及...
但是,通过一些特定的步骤,可以在Windows系统上编译和使用Hadoop,而提供的“win7下编译过的hadoop2.7.2”文件正是为了简化这一过程。 首先,我们来看一下Hadoop在Windows上的编译步骤。在Windows 7环境下编译...
为了在Windows上成功安装并运行Hadoop 2.7.2,你需要做以下几步: 1. **获取`hadoop.dll`和`winutils.exe`**: 通常,这些文件并不包含在Hadoop的标准发行版中,你需要从Hadoop社区或其他可靠的来源找到它们。有时...
安装Hadoop时,需要将这个文件放置在正确的路径下,并确保其可执行权限。 **hadoop.dll**: `hadoop.dll`是一个动态链接库文件,它是Hadoop在Windows平台上的核心组件,用于实现Hadoop与本地操作系统的交互,包括...
一旦配置完成,用户可以通过bin目录下的启动脚本启动Hadoop的服务,如DataNode、NameNode、ResourceManager和NodeManager等。 总的来说,"hadoop-2.7.2-win10_x64.7z"压缩包为Windows 10用户提供了一个方便的Hadoop...
6. **启动Hadoop**:现在你已经准备好启动Hadoop服务,如NameNode和DataNode。运行`sbin\start-dfs.bat`和`sbin\start-yarn.bat`脚本来启动HDFS和YARN。 请注意,虽然上述步骤可以让你在Windows上运行Hadoop,但...
执行`bin/hadoop`启动Hadoop,然后使用`bin/hadoop fs -ls`命令检查Hadoop是否正常工作。 7. **安装和使用Hadoop 2.7.2**:编译得到的jar包可以用于在Windows环境中搭建Hadoop伪分布式或完全分布式集群。配置Hadoop...
描述中提到"windows下的hadoop2.7.2编译源码",意味着这个压缩包可能包括了源代码,用户可以在Windows 10系统上进行编译。通常,Hadoop主要在Linux环境中运行,但通过特定的配置和工具,如Cygwin或MinGW,也可以在...
然后,你可以启动Hadoop的各个服务,如NameNode、DataNode和ResourceManager。 在这个过程中,可能会遇到的问题包括但不限于: - **路径问题**:Cygwin的路径与Windows的路径格式不同,可能导致配置错误。确保所有...
5. **启动Hadoop服务**: - 启动DataNode和NameNode:`start-dfs.cmd` - 启动YARN服务:`start-yarn.cmd` 6. **验证Hadoop安装**: - 打开浏览器,访问 `http://localhost:50070`,你应该能看到Hadoop的Web UI。...
在win10下编译Hadoop 2.7.2,首先需要安装Java开发工具包(JDK),因为Hadoop是用Java编写的。然后,下载Hadoop源码,使用Apache Maven或Gradle等构建工具进行编译。编译过程中可能需要配置环境变量,如HADOOP_HOME...
完成配置后,可以启动Hadoop的NameNode和DataNode服务,通过`bin/hadoop dfsadmin -report`命令检查HDFS的状态,确保服务已经正常运行。 然而,在Windows 10上运行Hadoop可能面临性能问题,因为Hadoop原本是设计为...
本文将详细介绍如何在Windows 64位系统中安装和使用Hadoop 2.7.2。 一、Hadoop 2.7.2的下载与解压 首先,你需要从官方源或可信的第三方网站下载Hadoop的Windows版本,文件名为“hadoop-2.7.2-win64_bin”。下载...
本资源是针对Hadoop 2.7.2版本,在Windows 10环境下编译后的jar包,对于在Windows系统上进行Hadoop开发的用户来说,这是一个非常实用的资源。 通常,Hadoop的源代码默认是在Linux环境下编译的,但在Windows系统上...