下午终于在Eclispe下面调通hasoop的WordCount例子了,期间碰到了很多的问题,有些是环境的问题,有些是配制问题。这里分享一下我碰到的问题。
0.我的系统环境:
win7操作系统
Cygwin
Hadoop-0.20.2
Eclipse:3.3
1.Cygwin和hadoop的安装。这个问题网上有很多的BLOG,具体步骤可以参考他们。
推荐的BLOG:
Cygwin的安装:http://hi.baidu.com/%BD%AB%D6%AE%B7%E7_%BE%B2%D6%AE%D4%A8/blog/item/8832551c7598551f314e15c2.html
Hadoop的设置:http://hi.baidu.com/%BD%AB%D6%AE%B7%E7_%BE%B2%D6%AE%D4%A8/blog/item/a0ebb1db953a772033fa1c9a.html
2.Eclipse的安装:网上也有很多的BLOG对此进行十分详细的描述。他们有些是用Unbantu,有些是用Cygwin的,但在Ecilipse这方面,是十分相似的。所以可以参考他们。
推荐的两个BLOG:
http://blog.csdn.net/yanical/article/details/4474830
http://phz50.iteye.com/blog/932373
我就是根据这两篇配置出来的。
3. 遇到的问题
1) run as -> run on hadoop 运行没有效果。
就是run on hadoop不会弹出对话框,开始时我用的是galleo的Eclipse,运行不能弹出对话,选择版本小于等3.3的Eclipse。
2) hadoop Cannot run program "chmod": CreateProcess error=2, ????????? 错误的问题
具体报的错误忘了,这个错误的解决方法就是,cygwin\bin的路径加入到path中
3)org.apache.hadoop.security.AccessControlException: Permission denied: user =test , access=WRITE, inode="pokes":hadoop:supergroup:rwxr-xr-x
方法: 打开插件“Map/Reduce Location”,选中一个Location,打开“Advance parameters” Tab,找到"hadoop.job.ugi",可以看到我这里设置是:“test,Tardis”,修改为“hadoop, Tardis”,保存。
此外还有其他的方法,说什么扩大权限什么的,我试过了不行。不知道是我路径的问题还是其他什么的。要是按上面不行的话,你们可以试试,那边文章源地址是台湾地区的一个论坛。
4)运行参数问题,即运行传入args的参数的问题
在这个问题上,好像有很多种答案。我最开始是按照(Eclipse的安装)两篇BLOG来设置的,结果很统一,都是找不到相应路径。然后按照网上其他方法的来也不行,无论是以hdfs://loclhost开头还是直接以/user/....开头的设置方法。
我的解决方法:
HDFS的结构:
参数的设置:
这样设置以后就可以了。
上面的问题是我调试的过程中,遇到的印象比较深刻的问题。当然,在调试的过程遇到各种问题都是正常的。下面是几篇我参考过的BLOG,现在贴出来,希望对你们有用。
http://www.huomo.cn/developer/article-dd15.html
http://gongwanlu.iteye.com/blog/841356
http://heipark.iteye.com/blog/786302
- 大小: 22.9 KB
- 大小: 32.6 KB
分享到:
相关推荐
总的来说,这些文档和资料将帮助你搭建一个完整的Hadoop开发环境,从安装Cygwin和Eclipse,到配置Hadoop环境,最后通过运行WordCount实例来验证你的环境是否正确配置。这不仅对于初学者来说是一次很好的学习体验,也...
在Windows操作系统上搭建Hadoop开发环境,通常会遇到与Linux系统兼容性问题,因为Hadoop主要是为Linux设计的。为了在Windows上运行Hadoop,我们可以使用Cygwin,这是一个提供Linux命令行工具和环境的开源软件。下面...
Cygwin是一个在Windows上模拟Linux环境的工具,它允许你在Windows系统中运行Linux命令行工具,这对于设置Hadoop这样的开源项目非常有用。 首先,让我们了解Cygwin。Cygwin提供了一个兼容层,使Linux应用程序能够在...
在Windows操作系统上搭建Hadoop开发环境,通常会借助于Cygwin模拟Linux环境,并通过Eclipse作为集成开发环境。本文将详细介绍如何在Windows 7 32位系统中使用Cygwin和Eclipse来构建一个Hadoop的单机开发环境。 首先...
在安装过程中,确保选择了"Devel"类别下的所有必需组件,因为它们包含了构建和运行Hadoop所需的编译器和工具链,如gcc、make和bash等。 1. **Cygwin安装**: - 下载Cygwin的安装程序 setup.exe。 - 运行安装程序...
总结来说,通过Cygwin和Eclipse搭建Hadoop的单机开发环境,可以方便地在Windows环境下进行Hadoop的开发和测试。理解每个步骤和组件的作用,以及它们之间的相互配合,对于成功建立和优化这个环境至关重要。同时,定期...
【Windows下配置Cygwin、Hadoop环境及MapReduce程序运行详解】 在Windows操作系统中运行Hadoop和MapReduce程序,通常需要借助Cygwin来模拟Linux环境,因为Hadoop主要设计用于类Unix系统。Cygwin是一个提供Linux环境...
不过,需要注意的是,虽然Cygwin提供了很大的便利,但在Windows上运行Hadoop可能会遇到性能问题,因为Hadoop主要是为Linux设计的。此外,某些特定的Hadoop功能或服务可能无法在Cygwin环境下完美运行,因此,在生产...
如果遇到问题,可以参考以下链接获取解决方案: - [Cygwin 上安装、启动 ssh 服务失败、ssh localhost 失败的解决方案](http://pwcrab.blog.163.com/blog/static/16990382220107267443810/) - [如何在 Cygwin 中...
在IT行业中,尤其是在大数据处理领域,Hadoop是一个不可或缺的名字,它是一个开源的分布式计算框架,主要用来...在实际操作中,一定要耐心细致,遵循官方文档,遇到问题及时查阅资料和社区交流,才能顺利完成整个流程。
在Windows环境下运行Hadoop可能遇到的问题包括文件路径兼容性、端口冲突和权限问题。因此,仔细检查配置文件和日志信息是解决这些问题的关键。此外,虽然Hadoop在Windows上可以运行,但性能通常不如在Linux环境中。...
同时,由于Windows环境下的Hadoop性能可能不如Linux,因此在生产环境中,通常建议使用Linux集群来运行Hadoop。 总之,"hadoop Windows 运行环境"为Windows用户提供了一个便捷的途径来部署和运行Hadoop,从而可以在...
#### 二、配置Hadoop过程中遇到的问题及解决方案 在配置Hadoop的过程中,可能会遇到以下常见问题及其解决方法: 1. **Java环境问题**: - 错误提示:“java: no such file or directory”。 - 解决方案:确保...
在Windows环境下运行Hadoop是一项技术性较强的任务,因为Hadoop主要设计用于Linux系统。然而,通过特定的配置和工具,Windows用户也能搭建和运行Hadoop环境。以下是对标题和描述中涉及的知识点的详细说明: 1. **...
总之,要在Windows环境下运行Hadoop 2.7.1,你需要了解和配置Hadoop的相关组件,熟悉Hadoop命令行工具,以及理解MapReduce编程模型。这不仅有助于理解Hadoop的工作原理,也为跨平台的大数据处理打下基础。
Hadoop本身是基于Java的,因此在Windows环境下运行Hadoop可能需要特定的DLL文件来支持其运行。 DLL文件的作用在于提供了一种方式,使得多个应用程序可以共享同一段代码和数据,从而减少内存占用和磁盘空间。在...
这个hadoop-2.7.5-bin压缩包是专为Windows平台优化的版本,使得用户可以在Windows环境下运行Hadoop和Spark程序,而无需安装复杂的Linux环境。以下是关于Hadoop 2.7.5及其在Windows平台上的应用、配置和操作的一些...