`
butterluo
  • 浏览: 54158 次
  • 性别: Icon_minigender_1
  • 来自: 广州
最近访客 更多访客>>
社区版块
存档分类
最新评论

在windows下面的Hadoop 环境搭建 wordcount

 
阅读更多

1,参考 http://hadoop.apache.org/common/docs/stable/single_node_setup.html 

2,装 'Cygwin '记得安装openssh,最好干脆全部安装

3,在Cygwin中的JAVA_HOME是和window的环境变量一致的,不必在CYGWIN_HOME/etc/profile中再次配置

4,在HADOOP_HOME/conf/hadoop-env.sh中要再配置一次JAVA_HOME,如下:

    export JAVA_HOME=/cygdrive/d/Oracle/Middleware/jdk160_24

    注意,我win下面的JAVA_HOME是'D:\Oracle\Middleware\jdk160_24',而在hadoop-env.sh中按如上写法才可以指向win的JAVA_HOME

5,hadoop版本必须是:0.20.2,插件必须是:hadoop-eclipse-plugin-0.20.3-SNAPSHOT.jar.

6,先开ssh localhost再做hadoop相关操作

7,若start-all.sh后,log显示无法连上hdfs,删掉原有的hdfs相关文件,然后再format nameNode,然后再启动

8,注意,如果不通过cygwin,而是在win下面直接操作cygwin的相关文件的话,会有权限问题,因为这些文件不是任何cygwin用户建立的

9,要在win的环境变量中配置'CYGWIN_HOME/bin',否则会出现

Exception in thread "main" java.io.IOException: Cannot run program "chmod": CreateProcess error=2

 

参考:

http://heipark.iteye.com/blog/786302

http://phz50.iteye.com/blog/932373

http://blog.csdn.net/yanical/article/details/4475004

 

 

分享到:
评论

相关推荐

    使用hadoop实现WordCount实验报告.docx

    实验报告的目的是详细记录使用Hadoop在Windows环境下实现WordCount应用的过程,包括环境配置、WordCount程序的实现以及实验结果分析。本实验旨在理解Hadoop分布式计算的基本原理,并熟悉Hadoop集群的搭建与管理。 #...

    Hadoop环境搭建与WordCount实例浅析.pdf

    【Hadoop环境搭建与WordCount实例浅析】 Hadoop是一个分布式计算框架,广泛应用于大数据处理。要搭建Hadoop环境并实现WordCount实例,你需要遵循以下步骤: 1. **环境准备**: - 首先,你需要一个Linux操作系统...

    windows下hadoop2.6开发环境搭建过程说明及插件

    在Windows环境下搭建Hadoop2.6开发环境是一个相对复杂的过程,但通过详细的步骤和注意事项,可以有效地完成。这里我们将深入探讨这个过程,并介绍如何解决可能出现的问题。 首先,我们需要下载Hadoop2.6.0的安装包...

    基于Windows eclipse maven Hadoop 的WordCount源码

    本文将深入探讨如何在Windows环境下,使用Eclipse、Maven以及Hadoop来实现一个基础的WordCount程序。WordCount是Hadoop的经典示例,用于统计文本中各个单词出现的次数,它是理解MapReduce编程模型的一个良好起点。 ...

    cygwin+eclipse搭建hadoop开发环境,运行wordcount

    "Hadoop环境搭建及wordcount实例运行"文档将带你了解Hadoop的基本工作流程,通过运行经典的WordCount程序来实践。WordCount是Hadoop入门的经典例子,它统计文本文件中每个单词出现的次数。你将学习如何创建MapReduce...

    Hadoop的windows环境搭建依赖jar包

    在Windows环境下搭建Hadoop集群是一项复杂的工作,涉及到多个步骤和依赖项。首先,我们需要了解Hadoop是什么:Hadoop是一个开源的分布式计算框架,基于Java语言实现,主要用于处理和存储大量数据。它允许在廉价硬件...

    基于windows的hadoop集群搭建图文教程 自己写的亲测可以安装.rar

    在Windows环境下搭建Hadoop集群并不常见,因为通常它更适合于Linux环境,但通过一些特殊配置,我们同样可以在Windows上实现。 首先,了解Hadoop的基本组件是必要的。Hadoop主要由两个核心部分组成:HDFS(Hadoop ...

    windows版hadoop

    Windows版的Hadoop使得在个人计算机上搭建Hadoop环境成为可能,尤其是对于开发者和学习者而言,这提供了一个方便的本地测试环境。 在Windows上安装Hadoop可能会遇到一些挑战,因为Hadoop最初是为Linux设计的。但是...

    windows下安装云计算环境hadoop的完整步骤

    在 Windows 环境下搭建 Hadoop 集群是一项挑战性的任务,尤其是对于初次接触大数据处理框架的开发者来说。本文将详细阐述在 Windows 平台上安装配置 Hadoop 的具体步骤及注意事项,确保读者能够顺利搭建出一个可运行...

    从零起步搭建Hadoop单机和伪分布式开发环境图文教程.

    6. 测试Wordcount示例:运行Hadoop自带的Wordcount示例,验证环境搭建是否成功。 搭建伪分布式开发环境的步骤大致与单机模式相似,但是需要对Hadoop配置文件进行进一步的配置,以使Hadoop模拟分布式环境运行。 ...

    windows-hadoop-2.7.4-bin

    9. 总结:这个“windows-hadoop-2.7.4-bin”压缩包为Windows用户提供了一种在本地环境运行Hadoop的便捷途径,降低了大数据处理技术的入门门槛。不过,为了获得更好的性能和稳定性,生产环境中通常推荐在Linux集群上...

    hadooponwindows-master.rar

    标题 "hadooponwindows-master.rar" 暗示这是一个关于在Windows系统上搭建Hadoop环境的项目或教程的压缩文件。Hadoop是一个开源框架,主要用于处理和存储大规模数据,最初设计时主要考虑的是运行在Linux集群上,但...

    hadoop-3.1.0-windows依赖文件.7z

    这个"hadop-3.1.0-windows"压缩包是专为在Windows环境下运行Hadoop设计的,包含了所有必要的依赖文件,使得开发者可以在Windows操作系统上搭建和运行Hadoop集群。 在Windows上部署Hadoop并不像在Linux那样常见,...

    Hadoop 2.7.4 Windows 7 64位 编译bin(包含winutils.exe, hadoop.dll等)

    标题中的“Hadoop 2.7.4 Windows 7 64位 编译bin(包含winutils.exe, hadoop.dll等)”指的是一个专为Windows ...对于初学者或者开发者来说,这是一个宝贵的资源,可以帮助他们在非Linux环境中快速搭建Hadoop开发环境。

    windows安装hadoop

    不过,通过一些特定的步骤和工具,我们可以在Windows上搭建Hadoop环境。本篇文章将详细解析这一过程,并以《在Windows上安装Hadoop》这篇教程为基础进行讲解。 首先,我们需要了解Hadoop的基本概念。Hadoop是一个...

    hadoop-2.7.x&2.6.x windows可执行文件包

    本文将详细讲解如何在Windows操作系统上搭建和使用Hadoop 2.6.x及2.7.x版本的可执行环境,主要基于提供的压缩包文件:`hadoop2.7.1X64.zip`和`hadoop2.6(x64)V0.2.zip`。 一、Hadoop简介 Hadoop的核心组件包括HDFS...

    Windows本地安装Hadoop所需文件.zip

    在Windows环境下搭建Hadoop集群,对于初学者来说可能是一项挑战,但通过本地安装方式,可以大大简化这个过程。本压缩包“Windows本地安装Hadoop所需文件.zip”包含了在Windows系统上运行Hadoop所需的关键组件和配置...

Global site tag (gtag.js) - Google Analytics