`
keren
  • 浏览: 1578841 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Win7下开发运行hadoop MR程序的注意事项

阅读更多
环境:
win7+eclipse+ ubuntu+hadoop

开始运行时报没有权限,只要把 hdfs的权限加大:
hadoop dfs -chmod -R 777 /usr/local/hadoop/hadoop-dir/hadoop-dev/tmp/


接着运行MR报 内存一出:
运行时加入参数:因为 mapred.child.java.opts默认大小是200m,具体的配置位置在 mapred-site.xml.
-Dmapred.child.java.opts=-Xmx512m




  • 大小: 50.2 KB
分享到:
评论
3 楼 niko7 2012-08-17  
我在虚拟机里装了Ubuntu11,分配了2G内存。
里面装了hadoop1.0.3,安装都顺利,但是运行例子的时候总是报内存溢出。
请问下,你给hadoop的机器开了多少内存?或者,根据我的情况,hadoop的设置要怎么调整?
谢谢!
2 楼 keren 2012-08-16  
niko7 写道
你这是hadoop的哪个版本啊?

hadoop1.0
1 楼 niko7 2012-08-15  
你这是hadoop的哪个版本啊?

相关推荐

    win7下Eclipse开发Hadoop应用程序环境搭建

    在Windows 7操作系统中,使用Eclipse开发Hadoop应用程序的过程涉及多个步骤,涵盖了从环境配置到实际编程的各个层面。以下是对这个主题的详细讲解: 首先,我们需要了解Hadoop和Eclipse的基础。Hadoop是一个开源的...

    hadoop mr程序0.20之后版本所需jar包

    从标题“hadoop mr程序0.20之后版本所需jar包”可以看出,这里关注的是Hadoop MapReduce在0.20版本之后的版本,特别是与运行MR(MapReduce)程序相关的JAR包。描述进一步强调了这些JAR包是针对执行MR任务所必需的。...

    win 7 64上编译 Hadoop 2.7.3 源码

    ### Win 7 64位系统上编译Hadoop 2.7.3源码的知识点 #### 一、背景介绍 在当前大数据处理技术快速发展的背景下,Hadoop作为主流的大数据处理框架之一,被广泛应用于各类场景之中。对于开发者来说,能够熟练地在自己...

    win7下编译过的hadoop jar包--hadoop-2.7.2.zip

    在Windows 7环境下编译并运行Hadoop可能需要一些特别的步骤,因为Hadoop最初是为Linux设计的。这个“win7下编译过的hadoop-2.7.2.zip”文件是为了适应Windows操作系统,使用户能在本地环境中学习和测试Hadoop功能。 ...

    Hadoop集群程序设计与开发教材最终代码.zip

    《Hadoop集群程序设计与开发教材最终代码》这个压缩包文件是针对学习和理解Hadoop分布式计算框架的重要教学资源。Hadoop是Apache软件基金会开发的一个开源项目,它为大规模数据处理提供了一种分布式、容错性强的解决...

    hadoop2.6(x64)Win7上远程调试hadoop 集群

    7. **远程调试Hadoop程序**: - 在开发环境中创建一个Hadoop项目,编写并编译源代码。 - 将编译后的JAR文件上传到HDFS,然后使用`hadoop jar`命令提交作业。 - 使用IDE(如Eclipse或IntelliJ IDEA)的远程调试...

    win7下eclipse配置hadoop的插件

    标题中提到的关键是"win7下eclipse配置hadoop的插件",这意味着我们要在Windows 7操作系统上,利用Eclipse进行Hadoop开发的环境配置。这通常包括以下几个步骤: 1. **下载Hadoop插件**:这里提到的`hadoop-eclipse-...

    win7下Cygwin搭建Hadoop开发环境

    ### Win7 下 Cygwin 搭建 Hadoop 开发环境 #### 一、概述 在 Windows 7 系统中使用 Cygwin 搭建 Hadoop 开发环境是一项较为复杂的任务,需要对 Windows 系统环境变量、Cygwin 的安装与配置以及 Hadoop 安装包进行...

    win下maven创建的hadoop程序demo

    总结起来,"win下maven创建的hadoop程序demo"是一个涵盖了Windows开发环境、Maven项目管理、Hadoop分布式计算平台以及MapReduce编程模型的实践案例。这个案例旨在帮助开发者了解和掌握在Windows上使用Maven构建...

    win7下编译过的hadoop2.7.2

    总之,这个“win7下编译过的hadoop2.7.2”文件对于在Windows 7环境下快速部署和使用Hadoop非常有帮助,它省去了编译的复杂性,让开发者和数据分析师能够专注于Hadoop的应用和数据分析,而不是底层的系统配置。...

    win7编译过的hadoo2.6.1包括hadoop.dll和winutils.exe

    总之,这个win7编译过的Hadoop 2.6.1版本是为在Windows 7环境下运行Hadoop设计的,包含了运行和管理Hadoop集群所需的关键组件,使得开发者和数据工程师可以在Windows平台上利用Hadoop的强大功能进行大数据处理和分析...

    Linux和Win下配置eclipse开发hadoop

    本篇将详细讲解如何在Linux和Windows操作系统下配置Eclipse进行Hadoop开发。 **一、Linux环境下配置Eclipse开发Hadoop** 1. **安装Java**: Hadoop依赖Java运行环境,首先确保系统已安装Java,并且版本至少为Java 8...

    eclipse运行hadoop2.7.3程序依赖的jar包

    在开发Hadoop应用程序时,Eclipse作为Java IDE是开发者常用的选择。为了在Eclipse中运行Hadoop 2.7.3程序,你需要确保正确配置了项目依赖并包含了所有必需的JAR包。以下是你需要知道的关键知识点: 1. **Hadoop环境...

    win10下编译过的hadoop jar包--hadoop-2.7.2.zip

    在win10下编译Hadoop 2.7.2,首先需要安装Java开发工具包(JDK),因为Hadoop是用Java编写的。然后,下载Hadoop源码,使用Apache Maven或Gradle等构建工具进行编译。编译过程中可能需要配置环境变量,如HADOOP_HOME...

    Hadoop系统安装运行与程序开发

    需要注意的是,在集群分布模式下,已经在单机或伪分布模式下编写并调试完成的程序,在不进行修改的情况下,可以运行在真实的分布式Hadoop集群中,尽管通常需要修改配置。 3. Hadoop集群远程作业提交与执行 在集群...

    Hadoop集群程序设计与开发PPT.rar

    《Hadoop集群程序设计与开发》是一份详细的教学资料,主要涵盖了大数据处理领域中的核心工具——Hadoop的集群程序设计与开发技术。这份PPT旨在帮助开发者深入理解Hadoop生态系统,掌握分布式计算的基本原理和实践...

    win7(x64)和win10(x64)编译的hadoop的bin

    关于【压缩包子文件的文件名称列表】,虽然多数文件看起来像是图片或视频资源,但有两个文件值得注意:"windows7-64bit平台本地编译好的hadoop.rar" 和 "win10bin.rar"。这些RAR文件很可能是编译后的Hadoop bin目录...

    windows下开发hadoop2.4.1程序需要覆盖的本地库文件

    在Windows环境下开发Hadoop 2.4.1程序时,可能会遇到与本地库文件相关的兼容性和依赖性问题。Hadoop最初是为Linux环境设计的,因此在Windows上运行Hadoop时,需要对某些库文件进行调整以确保正常运行。本文将深入...

    win7下编译过的hadoop jar包

    win7下编译过的hadoop jar包 hadoop1.1.2 hadoop0.20以后的版本的安装目录下contrib/没有eclipse的hadoop-*-eclipse-plugin.jar插件,需要自己用ant编译。

    【IT十八掌徐培成】Hadoop第04天-05.win7下hadoop运行需要dll和exe文件的支持.zip

    8. **注意事项**:在Windows上运行Hadoop可能会遇到性能问题,因为Hadoop的设计初衷是优化大规模的Linux集群。此外,Windows的权限管理和文件系统结构与Linux不同,可能会引入一些兼容性和稳定性问题。 总结来说,...

Global site tag (gtag.js) - Google Analytics