`
minglaihan
  • 浏览: 16582 次
  • 性别: Icon_minigender_1
  • 来自: 天津
文章分类
社区版块
存档分类
最新评论

hadoop1.2.1下编译及安装eclipse4.2插件

 
阅读更多

转载请注明出处:http://hanlaiming.freetzi.com/?p=115

hadoop1.2.1环境安装完成后,准备着手开发Mapreduce程序,但是总在文本里编辑java代码肯定不是回事,所以开始安装eclipse插件。

我在安装前参考了这篇博文http://blog.csdn.net/summerdg/article/details/12874841,在此谢谢博主了。

下面是我的安装步骤:

1,准备好安装版本

ubuntu12.04 hadoop1.2.1 eclipse4.2Juno

2,打开eclipse,File——Import——Existing Projects into Workspace,选择hadoop安装目录下/src/contrib/eclipse-plugin,点击Finish。这时eclipse导入了一个MapReduceTools的工程,下面进行文件配置。

3打开MapReduceTools工程里的build.xml文件

找到:<pathid=”classpath”>

然后添加

  1. <filesetdir=”${hadoop.root}/”>
  2. <includename=”*.jar”/>
  3. </fileset>
再找到<targetname=”jar”depends=”compile”unless=”skip.contrib”>
删除或者注释掉下边的两个<copy file的内容,然后添加

  1. <copyfile=”${hadoop.root}/hadoop-core-${version}.jar”tofile=”${build.dir}/lib/hadoop-core.jar”verbose=”true”/>
  2. <copyfile=”${hadoop.root}/lib/commons-cli-1.2.jar”todir=”${build.dir}/lib”verbose=”true”/>
  3. <copyfile=”${hadoop.root}/lib/commons-lang-2.4.jar”todir=”${build.dir}/lib”verbose=”true”/>
  4. <copyfile=”${hadoop.root}/lib/commons-configuration-1.6.jar”todir=”${build.dir}/lib”verbose=”true”/>
  5. <copyfile=”${hadoop.root}/lib/jackson-mapper-asl-1.8.8.jar”todir=”${build.dir}/lib”verbose=”true”/>
  6. <copyfile=”${hadoop.root}/lib/jackson-core-asl-1.8.8.jar”todir=”${build.dir}/lib”verbose=”true”/>
  7. <copyfile=”${hadoop.root}/lib/commons-httpclient-3.0.1.jar”todir=”${build.dir}/lib”verbose=”true”/>

4,最终修改后的build.xml文件为:

最后修改过的build.xml如下:

  1. ?xmlversion=”1.0″encoding=”UTF-8″standalone=”no”?>
  2. <!–
  3. LicensedtotheApacheSoftwareFoundation(ASF)underoneormore
  4. contributorlicenseagreements.SeetheNOTICEfiledistributedwith
  5. thisworkforadditionalinformationregardingcopyrightownership.
  6. TheASFlicensesthisfiletoYouundertheApacheLicense,Version2.0
  7. (the”License”);youmaynotusethisfileexceptincompliancewith
  8. theLicense.YoumayobtainacopyoftheLicenseat
  9. http://www.apache.org/licenses/LICENSE-2.0
  10. Unlessrequiredbyapplicablelaworagreedtoinwriting,software
  11. distributedundertheLicenseisdistributedonan”ASIS”BASIS,
  12. WITHOUTWARRANTIESORCONDITIONSOFANYKIND,eitherexpressorimplied.
  13. SeetheLicenseforthespecificlanguagegoverningpermissionsand
  14. limitationsundertheLicense.
  15. –>
  16. <projectdefault=”jar”name=”eclipse-plugin”>
  17. <importfile=”../build-contrib.xml”/>
  18. <pathid=”eclipse-sdk-jars”>
  19. <filesetdir=”${eclipse.home}/plugins/”>
  20. <includename=”org.eclipse.ui*.jar”/>
  21. <includename=”org.eclipse.jdt*.jar”/>
  22. <includename=”org.eclipse.core*.jar”/>
  23. <includename=”org.eclipse.equinox*.jar”/>
  24. <includename=”org.eclipse.debug*.jar”/>
  25. <includename=”org.eclipse.osgi*.jar”/>
  26. <includename=”org.eclipse.swt*.jar”/>
  27. <includename=”org.eclipse.jface*.jar”/>
  28. <includename=”org.eclipse.team.cvs.ssh2*.jar”/>
  29. <includename=”com.jcraft.jsch*.jar”/>
  30. </fileset>
  31. </path>
  32. <!–OverrideclasspathtoincludeEclipseSDKjars–>
  33. <pathid=”classpath”>
  34. <pathelementlocation=”${build.classes}”/>
  35. <pathelementlocation=”${hadoop.root}/build/classes”/>
  36. <pathrefid=”eclipse-sdk-jars”/>
  37. <filesetdir=”${hadoop.root}/”>
  38. <includename=”*.jar”/>
  39. </fileset>
  40. </path>
  41. <!–Skipbuildingifeclipse.homeisunset.–>
  42. <targetname=”check-contrib”unless=”eclipse.home”>
  43. <propertyname=”skip.contrib”value=”yes”/>
  44. <echomessage=”eclipse.homeunset:skippingeclipseplugin”/>
  45. </target>
  46. <targetname=”compile”depends=”init,ivy-retrieve-common”unless=”skip.contrib”>
  47. <echomessage=”contrib:${name}”/>
  48. <javac
  49. encoding=”${build.encoding}”
  50. srcdir=”${src.dir}”
  51. includes=”**/*.java”
  52. destdir=”${build.classes}”
  53. debug=”${javac.debug}”
  54. deprecation=”${javac.deprecation}”>
  55. <classpathrefid=”classpath”/>
  56. </javac>
  57. </target>
  58. <!–Overridejartargettospecifymanifest–>
  59. <targetname=”jar”depends=”compile”unless=”skip.contrib”>
  60. <mkdirdir=”${build.dir}/lib”/>
  61. <!–<copyfile=”${hadoop.root}/build/hadoop-core-${version}.jar”tofile=”${build.dir}/lib/hadoop-core.jar”verbose=”true”/>
  62. <copyfile=”${hadoop.root}/build/ivy/lib/Hadoop/common/commons-cli-${commons-cli.version}.jar”todir=”${build.dir}/lib”verbose=”true”/>–>
  63. <copyfile=”${hadoop.root}/hadoop-core-${version}.jar”tofile=”${build.dir}/lib/hadoop-core.jar”verbose=”true”/>
  64. <copyfile=”${hadoop.root}/lib/commons-cli-1.2.jar”todir=”${build.dir}/lib”verbose=”true”/>
  65. <copyfile=”${hadoop.root}/lib/commons-lang-2.4.jar”todir=”${build.dir}/lib”verbose=”true”/>
  66. <copyfile=”${hadoop.root}/lib/commons-configuration-1.6.jar”todir=”${build.dir}/lib”verbose=”true”/>
  67. <copyfile=”${hadoop.root}/lib/jackson-mapper-asl-1.8.8.jar”todir=”${build.dir}/lib”verbose=”true”/>
  68. <copyfile=”${hadoop.root}/lib/jackson-core-asl-1.8.8.jar”todir=”${build.dir}/lib”verbose=”true”/>
  69. <copyfile=”${hadoop.root}/lib/commons-httpclient-3.0.1.jar”todir=”${build.dir}/lib”verbose=”true”/>
  70. <jar
  71. jarfile=”${build.dir}/hadoop-${name}-${version}.jar”
  72. manifest=”${root}/META-INF/MANIFEST.MF”>
  73. <filesetdir=”${build.dir}”includes=”classes/lib/”/>
  74. <filesetdir=”${root}”includes=”resources/plugin.xml”/>
  75. </jar>
  76. </target>
  77. </project>

5,修改build-contrib.xml文件

添加如下路径

  1. <propertyname=”version”value=”1.2.1″/>
  2. <propertyname=”ivy.version”value=”2.1.0″/>
  3. <propertyname=”eclipse.home”location=”/home/summerdg/eclipse”/>

6,修改META-INF/MANIFEST.MF文件

最终文件为:

  1. Manifest-Version:1.0
  2. Bundle-ManifestVersion:2
  3. Bundle-Name:MapReduceToolsforEclipse
  4. Bundle-SymbolicName:org.apache.hadoop.eclipse;singleton:=true
  5. Bundle-Version:0.18
  6. Bundle-Activator:org.apache.hadoop.eclipse.Activator
  7. Bundle-Localization:plugin
  8. Require-Bundle:org.eclipse.ui,
  9. org.eclipse.core.runtime,
  10. org.eclipse.jdt.launching,
  11. org.eclipse.debug.core,
  12. org.eclipse.jdt,
  13. org.eclipse.jdt.core,
  14. org.eclipse.core.resources,
  15. org.eclipse.ui.ide,
  16. org.eclipse.jdt.ui,
  17. org.eclipse.debug.ui,
  18. org.eclipse.jdt.debug.ui,
  19. org.eclipse.core.expressions,
  20. org.eclipse.ui.cheatsheets,
  21. org.eclipse.ui.console,
  22. org.eclipse.ui.navigator,
  23. org.eclipse.core.filesystem,
  24. org.apache.commons.logging
  25. Eclipse-LazyStart:true
  26. Bundle-ClassPath:classes/,lib/hadoop-core.jar,lib/jackson-core-asl-1.8.8.jar,lib/jackson-mapper-asl-1.8.8.jar,lib/commons-configuration-1.6.jar,lib/commons-lang-2.4.jar,lib/commons-httpclient-3.0.1.jar,lib/commons-cli-1.2.jar
  27. Bundle-Vendor:ApacheHadoop

7,保存完毕后,开始编译我们自己的插件。右击MapReduceTools工程,选择Properties,选择Builders,点击右侧的New,命名为Plugin_Builder,选择Ant Builder,BuildFile选择MapReduceTools里的build.xml文件,然后点击确定。

8,开始编译。点击eclipse的Project选项,选择Build Project,然后编译成功。编译后的jar文件放在hadoop安装目录下的build文件夹里,contrib下,有个hadoop-eclipse-1.2.1.jar文件,将其赋值到eclipse下的plugin里。

Ps.我在这里遇到了一个问题,有一个警告,说是无法复制hadoop目录下的hadoop-core-${version}.jar文件,我暂时没解决,但是好像没什么影响,只是生成的jar文件是hadoop-eclipse-${version}.jar文件,如果有其他人遇到并且解决了,麻烦告诉我一下,我的解决方法是将名字改正确然后复制过去的,发现也可以用。

9.打开eclipse,打开Window——Preferences,选择左侧的Hadoop Map/Reduce,然后指定自己安装的hadoop目录,点击确定。再打开Window——Open Perspective——other,选择MapReduce蓝色的小象,此时下方出现MapReduce Location,右键单击New Hadoop Location,开始配置hadoop变量。

10,进入New Hadoop location后,定义你的location name,然后选择和你的hadoop目录下core-site.xml文件一致的主机名和端口,并在Advanced parameters里找到两个重要的参数,

修改 hadoop.tmp.dir 为你 hadoop 集群中设置的目录
修改 dfs.replication 为你 hdfs-site.xml 文件中配置的值

然后确定。此时确保你的hadoop服务已经开启,接下来就可以在左侧的DFS Location下找到你hadoop环境下的目录,以后如果编译程序也会很方便。

至此,hadoop-eclipse-1.2.1.jar安装完成。

分享到:
评论

相关推荐

    hadoop-eclipse-plugin-1.2.1.jar

    hadoop-eclipse-plugin-1.2.1.jar,给 Eclipse 用的 Hadoop 插件,1.2.1 版本。可以自己编译,请参考: http://blog.iamteer.com/archives/hadoop-eclipse-plugin.html 嫌麻烦可以直接下载,放到 Eclipse 的 ...

    hadoop-eclipse-plugin-1.2.1插件

    luna编译的hadoop-eclipse-plugin-1.2.1插件

    去权限后的Hadoop-eclipse-1.2.1.jar插件

    再把hadoop eclipse plugin 1 2 1 jar插件也编译成功了(这个大家多懂得 用eclipse开发hadoop程序必备的插件 ) 我尝试过可用 希望这两个包对大家有用 自己编译摸索很耗时间的 如果先没时间 可以用现成的用用 之后...

    hadoop-core-1.2.1.jar

    由于hadoop1.2.1+eclipse在Windows环境下运行存在的文件权限问题,所以原始的hadoop-core-1.2.1.jar不可用,需要修改fileutil.java文件,本jar为编译成功的,亲测可用。

    Hadoop完全分布式详细安装过程

    本文旨在详细介绍Hadoop在完全分布式环境下的安装步骤及注意事项。整个安装过程分为六个主要部分:安装虚拟化工具VMware、在VMware上安装Ubuntu系统、安装JDK与SSH服务作为Hadoop安装前的准备、配置Hadoop、安装...

    hadoop2.6.0 eclipse 插件 jdk1.6环境编译64位

    因为从1.2.1版本升级到2.6以后老的不能用,自己编译了一个,网上找的不行,是1.7编译的,太新了所以自己编译了一个。是64位系统上编译的,java 版本是1.6. 已经测试能够使用了。

    hadoop-eclipse-plugin-2.7.3.jar

    由于hadoop-eclipse-1.2.1插件需要自行编译,如果有需要可以从点击并下载资源。下载这个jar包后,将它放置在myeclipse/plugins目录下,并重启myeclipse即可。

    apache-hive-1.2.1-src.zip

    为了将这些源代码导入Eclipse进行阅读和调试,你需要先安装Eclipse IDE,并配置好Hadoop和Maven的环境。然后,使用Maven插件将源代码导入为Eclipse项目,进行编译和构建。调试时,你可以设置断点,查看Hive处理查询...

    hive自定义UDF编写函数.docx

    为了实现该函数,我们需要引入两个 jar 包:hadoop-common-2.7.3.jar 和 hive-exec-1.2.1.jar。 三、编译和打包 UDF jar 包 为了将 UDF 函数编译成 jar 包,我们需要在项目中添加一个 MANIFEST.MF 文件,定义主类...

    零基础学Java Web开发

    1. **平台无关性**:Java编译后的字节码可以在任何安装了JVM的平台上运行,极大地降低了软件移植的成本。 2. **安全性**:Java提供了严格的安全控制措施,能够有效防止恶意代码的入侵。 3. **面向对象**:支持类、...

Global site tag (gtag.js) - Google Analytics