在windows下配置hadoop-eclipse插件,并连接虚拟机的hadoop集群
前提:本地环境java+ant
本编译使用eclipse3.6,一开始用的3.7一致报错,网上找了好久。。。。必须3.6
- 下载hadoop-1.1.2.tar.gz到本地目录
- 使用Git Bash(可模拟部分linux的命令)解压hadoo-1.1.2.tar.gz文件
Git下载路径:https://code.google.com/p/msysgit/downloads/list?q=full+installer+official+git
- 进入${hadoop.home}/src/contrib/eclipse-plugin目录写该build.xml文件
<?xml version="1.0" encoding="UTF-8" standalone="no"?> <project default="jar" name="eclipse-plugin"> <property name="name" value="${ant.project.name}"/> <property name="root" value="${basedir}"/> <property name="hadoop.root" location="d:/hadoop/hadoop-1.1.2"/> <property name='version' value='1.1.2'/> <property name='eclipse.home' location='d:/hadoop/eclipse'/> <property name="build.dir" location="${hadoop.root}/build/contrib/${name}"/> <property name="build.classes" location="${build.dir}/classes"/> <property name="src.dir" location="${root}/src/java"/> <path id="eclipse-sdk-jars"> <fileset dir="${eclipse.home}/plugins/"> <include name="org.eclipse.ui*.jar"/> <include name="org.eclipse.jdt*.jar"/> <include name="org.eclipse.core*.jar"/> <include name="org.eclipse.equinox*.jar"/> <include name="org.eclipse.debug*.jar"/> <include name="org.eclipse.osgi*.jar"/> <include name="org.eclipse.swt*.jar"/> <include name="org.eclipse.jface*.jar"/> <include name="org.eclipse.team.cvs.ssh2*.jar"/> <include name="com.jcraft.jsch*.jar"/> </fileset> </path> <!-- Override classpath to include Eclipse SDK jars --> <path id="classpath"> <fileset dir="${hadoop.root}"> <include name="*.jar"/> </fileset> <path refid="eclipse-sdk-jars"/> </path> <target name="compile"> <mkdir dir="${build.dir}/classes"/> <javac encoding="ISO-8859-1" srcdir="${src.dir}" includes="**/*.java" destdir="${build.classes}" debug="on" includeAntRuntime="false" deprecation="off"> <classpath refid="classpath"/> </javac> </target> <!-- Override jar target to specify manifest--> <target name="jar" depends="compile"> <mkdir dir="${build.dir}/lib"/> <copy file="${hadoop.root}/hadoop-core-${version}.jar" tofile="${build.dir}/lib/hadoop-core.jar" verbose="true"/> <copy file="${hadoop.root}/lib/commons-cli-1.2.jar" todir="${build.dir}/lib" verbose="true"/> <copy file="${hadoop.root}/lib/commons-configuration-1.6.jar" todir="${build.dir}/lib" verbose="true"/> <copy file="${hadoop.root}/lib/commons-httpclient-3.0.1.jar" todir="${build.dir}/lib" verbose="true"/> <copy file="${hadoop.root}/lib/jackson-core-asl-1.8.8.jar" todir="${build.dir}/lib" verbose="true"/> <copy file="${hadoop.root}/lib/commons-lang-2.4.jar" todir="${build.dir}/lib" verbose="true"/> <copy file="${hadoop.root}/lib/jackson-mapper-asl-1.8.8.jar" todir="${build.dir}/lib" verbose="true"/> <jar jarfile="${build.dir}/hadoop-${name}-${version}.jar" manifest="${root}/META-INF/MANIFEST.MF"> <fileset dir="${build.dir}" includes="classes/ lib/"/> <fileset dir="${root}" includes="resources/ plugin.xml"/> </jar> </target> </project>
- 编辑META-INF/ MANIFEST.MF
添加如下
Eclipse-LazyStart: true
Bundle-ClassPath: classes/,lib/hadoop-core.jar,lib/commons-cli-1.2.jar,lib/commons-configuration-1.6.jar,lib/commons-httpclient-3.0.1.jar,lib/commons-lang-2.4.jar,lib/jackson-core-asl-1.8.8.jar,lib/jackson-mapper-asl-1.8.8.jar
Bundle-Vendor: Apache Hadoop
- Cmd命令行工具进入eclipse-plugin目录执行命令ant 编译
- 到${hadoop.home}/build/contrib/eclipse-plugin目录可以找到hadoop-eclipse-plugin-1.1.2.jar文件,拷贝到${eclipse.home}/plugins/
- 启动eclipse然后其他的配置方式网上都有了。
注意:请把windows的用户名该为与hadoop集群同名的用户名如grid
相关推荐
Ubuntu虚拟机HADOOP集群搭建eclipse环境 hadoop-eclipse-plugin-3.3.1.jar
Hadoop Eclipse Plugin 2.6.0是一款专为Eclipse集成开发环境设计的插件,它使得开发者能够在熟悉的Eclipse环境中直接操作和管理Hadoop集群,极大地提升了Hadoop应用的开发效率。这款插件在Hadoop生态系统中扮演着...
4. 配置Hadoop集群的连接信息,包括Hadoop的安装路径、NameNode和JobTracker的地址。 需要注意的是,为了使插件正常工作,确保Eclipse和Hadoop的版本匹配,同时保持Eclipse的JDK版本与Hadoop运行时使用的JDK版本...
4. **Eclipse Plugin for Hadoop**:这个插件是专门为Eclipse IDE设计的,使得开发者可以在Eclipse内直接进行Hadoop相关的开发工作,包括编写MapReduce程序、管理Hadoop集群、调试作业等。通过插件,可以提升开发...
虚拟机内的Linux系统可以配置为Hadoop集群,以便在本地进行开发和测试,而MyEclipse插件则使得开发者能在Windows上的IDE中直接编写、编译和调试MapReduce程序,然后提交到虚拟机中的Hadoop集群执行。 标签"大数据...
win7系统,集群部署在本机的虚拟机上,hadoop的eclipse插件,自测完美使用!
本文将详细介绍如何在有限的资源条件下,利用Windows7作为主机,通过VMware虚拟化技术运行Fedora操作系统,并在此环境中搭建Hadoop和HBase的伪分布式环境,最后在Windows下的Eclipse中配置相应的开发环境以进行远程...
标题 "IDE直接和Hadoop集群连接" 描述的是如何利用集成开发环境(IDE)与Hadoop分布式文件系统(HDFS)以及MapReduce框架进行交互,从而实现直接在IDE内进行开发和测试的功能。Hadoop是一个开源的大数据处理框架,由...
标题提到的“hadoop 虚拟机 连接 dll”,这可能涉及到在Eclipse环境下配置Hadoop开发环境,特别是当涉及到本地Windows系统与Hadoop虚拟机之间的连接时,可能会遇到动态链接库(DLL)的问题。在Windows操作系统中,...
在实际开发中,还需要确保网络连接畅通,以便于Eclipse能够与远程Hadoop集群通信。同时,理解Hadoop的相关概念,如HDFS(Hadoop Distributed File System)和MapReduce编程模型,也是进行开发工作的重要基础。
通过上述步骤,您已经成功地安装了Hadoop-1.2.1并在Eclipse中集成了Hadoop插件。接下来,您可以利用WordCount示例来进一步探索Hadoop的强大功能。此文档不仅适用于初学者快速入门Hadoop,也为那些需要详细指导的用户...
根据提供的文件信息,本文将详细解析如何在Ubuntu 16.04虚拟机环境下搭建Hadoop完全分布式集群。本文档适合已经具备基本Linux操作技能并对Hadoop有一定了解的读者。 ### 一、所需文件及软件 为了搭建Hadoop完全...
在Windows 7环境下,开发人员经常需要通过Eclipse IDE与远程Linux系统上的Hadoop集群进行交互,例如执行MapReduce任务。然而,由于操作系统和环境差异,可能会遇到一些问题。本文将详细阐述如何解决在Win7中使用...
现在,你可以在Eclipse中创建新的MapReduce项目,编写Java代码,并通过Eclipse直接提交到本地运行的Hadoop集群。 至于压缩包内的文件,`plugin.xml`是Eclipse插件的核心配置文件,描述了插件的功能和依赖;`META-...
由于作者在实践中发现许多书籍中的安装步骤存在一些问题,尤其是权限问题,所以作者根据个人的环境总结出了一套安装流程,并分享了从VMware虚拟机环境到HBase集群搭建的整个过程,但没有深入解释每个步骤的原理。...
Windows环境下采用eclipse连接虚拟机中的Hadoop伪分布式集群-附件资源
最后,进行Hadoop集群的分布式环境配置,包括配置Hadoop的配置文件如`core-site.xml`、`hdfs-site.xml`、`yarn-site.xml`和`mapred-site.xml`,确保集群可以正确地运行和交互。 任务2涉及MapReduce程序的开发。首先...