`

Cygwin下Eclipsef运行Hadoop遇到的问题

 
阅读更多

  下午终于在Eclispe下面调通hasoop的WordCount例子了,期间碰到了很多的问题,有些是环境的问题,有些是配制问题。这里分享一下我碰到的问题。

  0.我的系统环境:

           win7操作系统

    Cygwin

            Hadoop-0.20.2

            Eclipse:3.3

  1.Cygwin和hadoop的安装。这个问题网上有很多的BLOG,具体步骤可以参考他们。

   推荐的BLOG:

     Cygwin的安装:http://hi.baidu.com/%BD%AB%D6%AE%B7%E7_%BE%B2%D6%AE%D4%A8/blog/item/8832551c7598551f314e15c2.html

     Hadoop的设置:http://hi.baidu.com/%BD%AB%D6%AE%B7%E7_%BE%B2%D6%AE%D4%A8/blog/item/a0ebb1db953a772033fa1c9a.html

 

  2.Eclipse的安装:网上也有很多的BLOG对此进行十分详细的描述。他们有些是用Unbantu,有些是用Cygwin的,但在Ecilipse这方面,是十分相似的。所以可以参考他们。

    推荐的两个BLOG:

            http://blog.csdn.net/yanical/article/details/4474830

            http://phz50.iteye.com/blog/932373

       我就是根据这两篇配置出来的。

   

  3. 遇到的问题

    1) run as -> run on hadoop 运行没有效果。

     就是run on hadoop不会弹出对话框,开始时我用的是galleo的Eclipse,运行不能弹出对话,选择版本小于等3.3的Eclipse。

 

    2) hadoop Cannot run program "chmod": CreateProcess error=2, ????????? 错误的问题

     具体报的错误忘了,这个错误的解决方法就是,cygwin\bin的路径加入到path中

 

    3)org.apache.hadoop.security.AccessControlException: Permission denied: user =test , access=WRITE, inode="pokes":hadoop:supergroup:rwxr-xr-x

               方法:   打开插件“Map/Reduce Location”,选中一个Location,打开“Advance parameters” Tab,找到"hadoop.job.ugi",可以看到我这里设置是:“test,Tardis”,修改为“hadoop, Tardis”,保存。

    此外还有其他的方法,说什么扩大权限什么的,我试过了不行。不知道是我路径的问题还是其他什么的。要是按上面不行的话,你们可以试试,那边文章源地址是台湾地区的一个论坛。  

 

     4)运行参数问题,即运行传入args的参数的问题

       在这个问题上,好像有很多种答案。我最开始是按照(Eclipse的安装)两篇BLOG来设置的,结果很统一,都是找不到相应路径。然后按照网上其他方法的来也不行,无论是以hdfs://loclhost开头还是直接以/user/....开头的设置方法。

      我的解决方法:

        HDFS的结构:DFS的结构

        

 

       参数的设置:

       参数

这样设置以后就可以了。

 

上面的问题是我调试的过程中,遇到的印象比较深刻的问题。当然,在调试的过程遇到各种问题都是正常的。下面是几篇我参考过的BLOG,现在贴出来,希望对你们有用。

 

http://www.huomo.cn/developer/article-dd15.html

 

http://gongwanlu.iteye.com/blog/841356

 

http://heipark.iteye.com/blog/786302

 

 

 

        

  

 

  • 大小: 22.9 KB
  • 大小: 32.6 KB
分享到:
评论

相关推荐

    cygwin+eclipse搭建hadoop开发环境,运行wordcount

    总的来说,这些文档和资料将帮助你搭建一个完整的Hadoop开发环境,从安装Cygwin和Eclipse,到配置Hadoop环境,最后通过运行WordCount实例来验证你的环境是否正确配置。这不仅对于初学者来说是一次很好的学习体验,也...

    在Windows上的Cygwin环境上安装Hadoop指南

    在Windows操作系统上搭建Hadoop开发环境,通常会遇到与Linux系统兼容性问题,因为Hadoop主要是为Linux设计的。为了在Windows上运行Hadoop,我们可以使用Cygwin,这是一个提供Linux命令行工具和环境的开源软件。下面...

    Cygwin+Eclipse搭建Hadoop单机开发环境-2

    Cygwin是一个在Windows上模拟Linux环境的工具,它允许你在Windows系统中运行Linux命令行工具,这对于设置Hadoop这样的开源项目非常有用。 首先,让我们了解Cygwin。Cygwin提供了一个兼容层,使Linux应用程序能够在...

    Cygwin+Eclipse搭建Hadoop单机开发环境离线包-cygwin-setup

    在Windows操作系统上搭建Hadoop开发环境,通常会借助于Cygwin模拟Linux环境,并通过Eclipse作为集成开发环境。本文将详细介绍如何在Windows 7 32位系统中使用Cygwin和Eclipse来构建一个Hadoop的单机开发环境。 首先...

    Cygwin+Eclipse搭建Hadoop单机开发环境-3

    在安装过程中,确保选择了"Devel"类别下的所有必需组件,因为它们包含了构建和运行Hadoop所需的编译器和工具链,如gcc、make和bash等。 1. **Cygwin安装**: - 下载Cygwin的安装程序 setup.exe。 - 运行安装程序...

    Cygwin+Eclipse搭建Hadoop单机开发环境-1

    总结来说,通过Cygwin和Eclipse搭建Hadoop的单机开发环境,可以方便地在Windows环境下进行Hadoop的开发和测试。理解每个步骤和组件的作用,以及它们之间的相互配合,对于成功建立和优化这个环境至关重要。同时,定期...

    windows下配置cygwin、hadoop等并运行mapreduce及mapreduce程序讲解

    【Windows下配置Cygwin、Hadoop环境及MapReduce程序运行详解】 在Windows操作系统中运行Hadoop和MapReduce程序,通常需要借助Cygwin来模拟Linux环境,因为Hadoop主要设计用于类Unix系统。Cygwin是一个提供Linux环境...

    最新版cygwin4hadoop,cygwin2.761

    不过,需要注意的是,虽然Cygwin提供了很大的便利,但在Windows上运行Hadoop可能会遇到性能问题,因为Hadoop主要是为Linux设计的。此外,某些特定的Hadoop功能或服务可能无法在Cygwin环境下完美运行,因此,在生产...

    win7下Cygwin搭建Hadoop开发环境

    如果遇到问题,可以参考以下链接获取解决方案: - [Cygwin 上安装、启动 ssh 服务失败、ssh localhost 失败的解决方案](http://pwcrab.blog.163.com/blog/static/16990382220107267443810/) - [如何在 Cygwin 中...

    cygwin中安装hadoop+eclipse编译源码并调试

    在IT行业中,尤其是在大数据处理领域,Hadoop是一个不可或缺的名字,它是一个开源的分布式计算框架,主要用来...在实际操作中,一定要耐心细致,遵循官方文档,遇到问题及时查阅资料和社区交流,才能顺利完成整个流程。

    window环境整合运行Hadoop资源包(压缩包以及所需依赖)

    在Windows环境下运行Hadoop可能遇到的问题包括文件路径兼容性、端口冲突和权限问题。因此,仔细检查配置文件和日志信息是解决这些问题的关键。此外,虽然Hadoop在Windows上可以运行,但性能通常不如在Linux环境中。...

    hadoop Windows 运行环境

    同时,由于Windows环境下的Hadoop性能可能不如Linux,因此在生产环境中,通常建议使用Linux集群来运行Hadoop。 总之,"hadoop Windows 运行环境"为Windows用户提供了一个便捷的途径来部署和运行Hadoop,从而可以在...

    hadoop运行wordcount实例

    #### 二、配置Hadoop过程中遇到的问题及解决方案 在配置Hadoop的过程中,可能会遇到以下常见问题及其解决方法: 1. **Java环境问题**: - 错误提示:“java: no such file or directory”。 - 解决方案:确保...

    windows运行hadoop所需环境

    在Windows环境下运行Hadoop是一项技术性较强的任务,因为Hadoop主要设计用于Linux系统。然而,通过特定的配置和工具,Windows用户也能搭建和运行Hadoop环境。以下是对标题和描述中涉及的知识点的详细说明: 1. **...

    hadoop2.71 window环境下运行文件

    总之,要在Windows环境下运行Hadoop 2.7.1,你需要了解和配置Hadoop的相关组件,熟悉Hadoop命令行工具,以及理解MapReduce编程模型。这不仅有助于理解Hadoop的工作原理,也为跨平台的大数据处理打下基础。

    hadoop的dll文件 hadoop.zip

    Hadoop本身是基于Java的,因此在Windows环境下运行Hadoop可能需要特定的DLL文件来支持其运行。 DLL文件的作用在于提供了一种方式,使得多个应用程序可以共享同一段代码和数据,从而减少内存占用和磁盘空间。在...

    hadoop-2.7.5-bin压缩包,适合在window平台运行hadoop和spark程序,其中的文件已做替换

    这个hadoop-2.7.5-bin压缩包是专为Windows平台优化的版本,使得用户可以在Windows环境下运行Hadoop和Spark程序,而无需安装复杂的Linux环境。以下是关于Hadoop 2.7.5及其在Windows平台上的应用、配置和操作的一些...

Global site tag (gtag.js) - Google Analytics