`

在windows下配置hadoop-eclipse插件,并连接虚拟机的hadoop集群

 
阅读更多

在windows下配置hadoop-eclipse插件,并连接虚拟机的hadoop集群

前提:本地环境java+ant

本编译使用eclipse3.6,一开始用的3.7一致报错,网上找了好久。。。。必须3.6

  1. 下载hadoop-1.1.2.tar.gz到本地目录
  2. 使用Git Bash(可模拟部分linux的命令)解压hadoo-1.1.2.tar.gz文件

Git下载路径:https://code.google.com/p/msysgit/downloads/list?q=full+installer+official+git

  1. 进入${hadoop.home}/src/contrib/eclipse-plugin目录写该build.xml文件
<?xml version="1.0" encoding="UTF-8" standalone="no"?>
 
<project default="jar" name="eclipse-plugin">
 
  <property name="name" value="${ant.project.name}"/>
 
  <property name="root" value="${basedir}"/>
 
  <property name="hadoop.root" location="d:/hadoop/hadoop-1.1.2"/>
 
  <property name='version' value='1.1.2'/>
 
  <property name='eclipse.home' location='d:/hadoop/eclipse'/>
 
  <property name="build.dir" location="${hadoop.root}/build/contrib/${name}"/>
 
  <property name="build.classes" location="${build.dir}/classes"/>
 
  <property name="src.dir"  location="${root}/src/java"/>
 
  <path id="eclipse-sdk-jars">
 
    <fileset dir="${eclipse.home}/plugins/">
 
      <include name="org.eclipse.ui*.jar"/>
 
      <include name="org.eclipse.jdt*.jar"/>
 
      <include name="org.eclipse.core*.jar"/>
 
      <include name="org.eclipse.equinox*.jar"/>
 
      <include name="org.eclipse.debug*.jar"/>
 
      <include name="org.eclipse.osgi*.jar"/>
 
      <include name="org.eclipse.swt*.jar"/>
 
      <include name="org.eclipse.jface*.jar"/>
 
      <include name="org.eclipse.team.cvs.ssh2*.jar"/>
 
      <include name="com.jcraft.jsch*.jar"/>
 
    </fileset>
 
  </path>
 
  <!-- Override classpath to include Eclipse SDK jars -->
 
  <path id="classpath">
 
   <fileset dir="${hadoop.root}">
 
    <include name="*.jar"/>
 
   </fileset>
 
    <path refid="eclipse-sdk-jars"/>
 
  </path>
 
 <target name="compile">
 
  <mkdir dir="${build.dir}/classes"/>
 
       <javac
 
     encoding="ISO-8859-1"
 
     srcdir="${src.dir}"
 
     includes="**/*.java"
 
     destdir="${build.classes}"
 
     debug="on"
 
     includeAntRuntime="false"
 
     deprecation="off">
 
     <classpath refid="classpath"/>
 
    </javac>
 
  </target>
 
  <!-- Override jar target to specify manifest-->
 
  <target name="jar" depends="compile">
 
    <mkdir dir="${build.dir}/lib"/>
 
    <copy file="${hadoop.root}/hadoop-core-${version}.jar" tofile="${build.dir}/lib/hadoop-core.jar" verbose="true"/>
 
    <copy file="${hadoop.root}/lib/commons-cli-1.2.jar"  todir="${build.dir}/lib" verbose="true"/>
 
    <copy file="${hadoop.root}/lib/commons-configuration-1.6.jar"  todir="${build.dir}/lib" verbose="true"/>
 
    <copy file="${hadoop.root}/lib/commons-httpclient-3.0.1.jar"  todir="${build.dir}/lib" verbose="true"/>
 
    <copy file="${hadoop.root}/lib/jackson-core-asl-1.8.8.jar"  todir="${build.dir}/lib" verbose="true"/>
 
    <copy file="${hadoop.root}/lib/commons-lang-2.4.jar"  todir="${build.dir}/lib" verbose="true"/>
 
    <copy file="${hadoop.root}/lib/jackson-mapper-asl-1.8.8.jar"  todir="${build.dir}/lib" verbose="true"/>
 
    <jar
 
      jarfile="${build.dir}/hadoop-${name}-${version}.jar"
 
      manifest="${root}/META-INF/MANIFEST.MF">
 
      <fileset dir="${build.dir}" includes="classes/ lib/"/>
 
      <fileset dir="${root}" includes="resources/ plugin.xml"/>
 
    </jar>
 
  </target>
 
</project>

 

  1. 编辑META-INF/ MANIFEST.MF

添加如下

Eclipse-LazyStart: true

Bundle-ClassPath: classes/,lib/hadoop-core.jar,lib/commons-cli-1.2.jar,lib/commons-configuration-1.6.jar,lib/commons-httpclient-3.0.1.jar,lib/commons-lang-2.4.jar,lib/jackson-core-asl-1.8.8.jar,lib/jackson-mapper-asl-1.8.8.jar

Bundle-Vendor: Apache Hadoop

 

  1. Cmd命令行工具进入eclipse-plugin目录执行命令ant 编译
  2. 到${hadoop.home}/build/contrib/eclipse-plugin目录可以找到hadoop-eclipse-plugin-1.1.2.jar文件,拷贝到${eclipse.home}/plugins/
  3. 启动eclipse然后其他的配置方式网上都有了。

  注意:请把windows的用户名该为与hadoop集群同名的用户名如grid

分享到:
评论

相关推荐

    hadoop-eclipse-plugin-2.6.0.jar

    Hadoop Eclipse Plugin 2.6.0是一款专为Eclipse集成开发环境设计的插件,它使得开发者能够在熟悉的Eclipse环境中直接操作和管理Hadoop集群,极大地提升了Hadoop应用的开发效率。这款插件在Hadoop生态系统中扮演着...

    hadoop-eclipse-plugin-3.3.1.jar

    Ubuntu虚拟机HADOOP集群搭建eclipse环境 hadoop-eclipse-plugin-3.3.1.jar

    hadoop-eclipse-plugin-2.7.3.jar

    4. 配置Hadoop集群的连接信息,包括Hadoop的安装路径、NameNode和JobTracker的地址。 需要注意的是,为了使插件正常工作,确保Eclipse和Hadoop的版本匹配,同时保持Eclipse的JDK版本与Hadoop运行时使用的JDK版本...

    linux-32-eclipse-kepler-hadoop-1.1.2-eclipse-plugin.rar

    4. **Eclipse Plugin for Hadoop**:这个插件是专门为Eclipse IDE设计的,使得开发者可以在Eclipse内直接进行Hadoop相关的开发工作,包括编写MapReduce程序、管理Hadoop集群、调试作业等。通过插件,可以提升开发...

    hadoop2x-eclipse-plugin-master

    虚拟机内的Linux系统可以配置为Hadoop集群,以便在本地进行开发和测试,而MyEclipse插件则使得开发者能在Windows上的IDE中直接编写、编译和调试MapReduce程序,然后提交到虚拟机中的Hadoop集群执行。 标签"大数据...

    最新的hadoop-eclipse-plugin-2.7.5.jar自测可用

    win7系统,集群部署在本机的虚拟机上,hadoop的eclipse插件,自测完美使用!

    Windows7下eclipse调试Fedora虚拟机的hadoop+hbase伪分布式

    本文将详细介绍如何在有限的资源条件下,利用Windows7作为主机,通过VMware虚拟化技术运行Fedora操作系统,并在此环境中搭建Hadoop和HBase的伪分布式环境,最后在Windows下的Eclipse中配置相应的开发环境以进行远程...

    IDE直接和hadoop集群连接

    标题 "IDE直接和Hadoop集群连接" 描述的是如何利用集成开发环境(IDE)与Hadoop分布式文件系统(HDFS)以及MapReduce框架进行交互,从而实现直接在IDE内进行开发和测试的功能。Hadoop是一个开源的大数据处理框架,由...

    hadoop 虚拟机 连接 dll

    标题提到的“hadoop 虚拟机 连接 dll”,这可能涉及到在Eclipse环境下配置Hadoop开发环境,特别是当涉及到本地Windows系统与Hadoop虚拟机之间的连接时,可能会遇到动态链接库(DLL)的问题。在Windows操作系统中,...

    Windows环境下Hadoop开发环境配置.docx

    在实际开发中,还需要确保网络连接畅通,以便于Eclipse能够与远程Hadoop集群通信。同时,理解Hadoop的相关概念,如HDFS(Hadoop Distributed File System)和MapReduce编程模型,也是进行开发工作的重要基础。

    史上最强Hadoop-1.2.1安装文档

    通过上述步骤,您已经成功地安装了Hadoop-1.2.1并在Eclipse中集成了Hadoop插件。接下来,您可以利用WordCount示例来进一步探索Hadoop的强大功能。此文档不仅适用于初学者快速入门Hadoop,也为那些需要详细指导的用户...

    Ubuntu 16.04 虚拟机下构建hadoop完全分布式集群

    根据提供的文件信息,本文将详细解析如何在Ubuntu 16.04虚拟机环境下搭建Hadoop完全分布式集群。本文档适合已经具备基本Linux操作技能并对Hadoop有一定了解的读者。 ### 一、所需文件及软件 为了搭建Hadoop完全...

    Win7中使用Eclipse连接虚拟机中的Linux中的Hadoop2.5.0经验总结

    在Windows 7环境下,开发人员经常需要通过Eclipse IDE与远程Linux系统上的Hadoop集群进行交互,例如执行MapReduce任务。然而,由于操作系统和环境差异,可能会遇到一些问题。本文将详细阐述如何解决在Win7中使用...

    win7搭建hadoop开发环境工具文件

    现在,你可以在Eclipse中创建新的MapReduce项目,编写Java代码,并通过Eclipse直接提交到本地运行的Hadoop集群。 至于压缩包内的文件,`plugin.xml`是Eclipse插件的核心配置文件,描述了插件的功能和依赖;`META-...

    hadoop虚拟机集群搭建全教程

    由于作者在实践中发现许多书籍中的安装步骤存在一些问题,尤其是权限问题,所以作者根据个人的环境总结出了一套安装流程,并分享了从VMware虚拟机环境到HBase集群搭建的整个过程,但没有深入解释每个步骤的原理。...

    Windows环境下采用eclipse连接虚拟机中的Hadoop伪分布式集群-附件资源

    Windows环境下采用eclipse连接虚拟机中的Hadoop伪分布式集群-附件资源

    Hadoop集群搭建部署与MapReduce程序关键点个性化开发.doc

    最后,进行Hadoop集群的分布式环境配置,包括配置Hadoop的配置文件如`core-site.xml`、`hdfs-site.xml`、`yarn-site.xml`和`mapred-site.xml`,确保集群可以正确地运行和交互。 任务2涉及MapReduce程序的开发。首先...

Global site tag (gtag.js) - Google Analytics