`
cywhoyi
  • 浏览: 421054 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
社区版块
存档分类
最新评论

eclipse下hadoop开发

 
阅读更多

环境:ubantu12.4  EclipseJuno apache hadoop1.1.2

如果安装插件成功,打开Window-->Preferens,你会发现Hadoop Map/Reduce选项,在这个选项里你需要配置Hadoop installation directory。配置完成后退出。

3.配置Map/Reduce Locations。 
在Window-->Show View中打开Map/Reduce Locations。 
在Map/Reduce Locations中新建一个Hadoop Location。在这个View中,右键-->New Hadoop Location。在弹出的对话框中你需要配置Location name,如Hadoop,还有Map/Reduce Master和DFS Master。这里面的Host、Port分别为你在mapred-site.xml、core-site.xml中配置的地址及端口。如:

Map/Reduce Master

192.168.1.101
9001

DFS Master

192.168.1.101
9000

配置完后退出。点击DFS Locations-->Hadoop如果能显示文件夹(2)说明配置正确,如果显示"拒绝连接",请检查你的配置。


第三步:新建项目。 
File-->New-->Other-->Map/Reduce Project 
项目名可以随便取,如WordCount。 
复制 hadoop安装目录/src/example/org/apache/hadoop/example/WordCount.java到刚才新建的项目下面。 

第四步:上传模拟数据文件夹。 
为了运行程序,我们需要一个输入的文件夹,和输出的文件夹。
在本地新建word.txt

java c++ python c
java c++ javascript 
helloworld hadoop
mapreduce java hadoop hbase 

通过hadoop的命令在HDFS上创建/tmp/workcount目录,命令如下:bin/hadoop fs -mkdir /tmp/wordcount

通过copyFromLocal命令把本地的word.txt复制到HDFS上,命令如下:bin/hadoop fs -copyFromLocal /home/grid/word.txt  /tmp/wordcount/word.txt


第五步:运行项目

1.在新建的项目Hadoop,点击WordCount.java,右键-->Run As-->Run Configurations 
2.在弹出的Run Configurations对话框中,点Java Application,右键-->New,这时会新建一个application名为WordCount 
3.配置运行参数,点Arguments,在Program arguments中输入“你要传给程序的输入文件夹和你要求程序将计算结果保存的文件夹”,如:

hdfs://centos1:9000/tmp/wordcount/word.txt   hdfs://centos1:9000/tmp/wordcount/out

4、如果运行时报java.lang.OutOfMemoryError: Java heap space 配置VM arguments(在Program arguments下)

-Xms512m -Xmx1024m -XX:MaxPermSize=256m

5.点击Run on Hadoop,运行程序。 

6.通过eclipse console日志信息,查看程序运行的完成进度

7.http://localhost:50070查看HDFS

分享到:
评论

相关推荐

    eclipse安装Hadoop插件

    ### Eclipse安装Hadoop插件详解 #### 一、前言 随着大数据技术的快速发展,Hadoop作为处理海量数据的重要工具之一,其应用越来越广泛。...希望本指南能够帮助您顺利完成Eclipse上的Hadoop开发环境搭建工作。

    基于Eclipse的Hadoop应用开发环境配置

    基于 Eclipse 的 Hadoop 应用开发环境配置是指在 Eclipse 中配置 Hadoop 开发环境,以便开发和运行 Hadoop 应用程序。本节将对基于 Eclipse 的 Hadoop 应用开发环境配置进行详细介绍。 一、Hadoop 概述 Hadoop 是...

    Linux和Win下配置eclipse开发hadoop

    本篇将详细讲解如何在Linux和Windows操作系统下配置Eclipse进行Hadoop开发。 **一、Linux环境下配置Eclipse开发Hadoop** 1. **安装Java**: Hadoop依赖Java运行环境,首先确保系统已安装Java,并且版本至少为Java 8...

    eclipse配置hadoop

    Eclipse 配置 Hadoop 及 MapReduce 开发指南 一、Eclipse 中配置 Hadoop 插件 配置 Hadoop 插件是使用 Eclipse 进行 MapReduce 开发的第一步。首先,需要安装 Eclipse 3.3.2 和 Hadoop 0.20.2-eclipse-plugin.jar ...

    Eclipse开发Hadoop相关项目本地配置插件

    首先,"Eclipse开发Hadoop相关项目本地配置插件"涉及到的主要目标是在本地环境中设置一个支持Hadoop开发的工作站。这包括安装和配置Hadoop环境,以及在Eclipse中集成Hadoop相关的开发工具。 1. **安装Hadoop**:在...

    win7下eclipse配置hadoop的插件

    标题中提到的关键是"win7下eclipse配置hadoop的插件",这意味着我们要在Windows 7操作系统上,利用Eclipse进行Hadoop开发的环境配置。这通常包括以下几个步骤: 1. **下载Hadoop插件**:这里提到的`hadoop-eclipse-...

    基于eclipse的hadoop应用开发

    本文主要介绍了如何在Eclipse环境下搭建Hadoop开发环境,并通过一个典型的WordCount程序演示整个流程。 #### 一、准备工作:配置Hadoop开发环境 1. **下载并安装Eclipse** 首先需要确保已经安装了Eclipse IDE,...

    eclipse配置Hadoop开发环境

    附件包含eclipse在window7配置hadoop2.7.x 开发环境需要的jar、dll。具体安装步骤可以参考:https://blog.csdn.net/wudichengyaojin/article/details/64440655 可能遇到的问题参考: ...

    Eclipse连接hadoop开发.doc

    在Windows环境下进行Hadoop开发,Eclipse是一个常用的集成开发环境。本文档将详细介绍如何配置Eclipse以便连接到Hadoop集群,使得开发过程更加便捷。 **1. Hadoop开发环境配置** 1.1 Hadoop集群简介 Hadoop是一个...

    windows下连接hadoop2.2.0的eclipse+hadoop插件

    在Windows环境下,开发基于Hadoop的Java应用程序通常需要一个集成开发环境(IDE),Eclipse是其中常用的一个。本文将详细讲解如何使用Eclipse与Hadoop 2.2.0插件进行连接,以便于在Windows操作系统上进行Hadoop相关...

    eclipse搭建hadoop-3.1.2所需插件.rar

    Hadoop是一个开源框架,主要用于处理和存储大规模数据,而Eclipse通过安装特定的插件可以提供对Hadoop开发的良好支持。本压缩包"eclipse搭建hadoop-3.1.2所需插件.rar"正是为了帮助用户在Eclipse环境中配置Hadoop ...

    cygwin+eclipse搭建hadoop开发环境,运行wordcount

    接下来,"Cygwin+Eclipse搭建Hadoop开发环境"文档将指导你如何配置Eclipse IDE,使其能够与Cygwin集成,用于Hadoop项目开发。Eclipse是Java开发者常用的一款强大IDE,它提供了丰富的插件支持,包括Hadoop开发插件,...

    eclipse连接hadoop相关工具

    这个主题涵盖了Eclipse插件、Hadoop的DLL文件以及Winutils工具,这些都是在Windows环境下进行Hadoop开发所必需的。 描述中提到的“hadoop-eclipse-plugin-2.7.3.jar”是Eclipse的一个插件,它允许开发者在Eclipse中...

    配置Eclipse连接Hadoop

    在本文中,我们将深入探讨如何配置Eclipse IDE以连接到Hadoop集群,这对于开发和调试Hadoop相关的Java应用程序至关重要。Eclipse是一个强大的集成开发环境,支持多种编程语言,包括Java,而Hadoop是一个分布式计算...

    eclipse连接hadoop所需要的hadoop.ddl和eclipse插件和hadoop运行案例

    为了在Eclipse中支持Hadoop开发,我们需要安装特定的插件,如Hadoop Eclipse Plugin。这个插件提供了与Hadoop集群交互的功能,例如创建、提交和监控MapReduce作业。它简化了开发过程,允许开发者在Eclipse环境中直接...

    Ubuntu下开发Eclipse下的Hadoop应用

    2. 安装Hadoop开发插件 3. 启动Eclipse并打开Map/Reduce视图 4. 添加Hadoop location 5. 添加文本文件 6. 新建Map/Reduce项目 7. 新建WordCount类 8. 添加/编写源代码 知识点: * 如何在Ubuntu操作系统下安装...

    eclipse的hadoop插件

    Eclipse的Hadoop插件是开发Hadoop MapReduce应用程序的重要工具,它允许开发者在熟悉的Eclipse集成开发环境中(IDE)编写、调试和管理Hadoop项目。这个插件专为Hadoop 0.20.2版本设计,并且要求Eclipse版本为3.5。在...

    eclipse-hadoop3x-master.zip

    【标题】"eclipse-hadoop3x-master.zip" 指的是一个Eclipse插件或项目,用于支持Hadoop 3.x版本的开发环境。这个压缩包可能包含了配置、源代码、库文件以及必要的设置,使得开发人员能够在Eclipse集成开发环境中有效...

Global site tag (gtag.js) - Google Analytics