`
即可偶
  • 浏览: 21741 次
  • 性别: Icon_minigender_1
  • 来自: 苏州
社区版块
存档分类
最新评论

hadoop eclipse插件编译(1.2.1)

 
阅读更多

转载  http://f.dataguru.cn/thread-167671-1-1.html

编译过程

目录结构

    eclipse目录 F:\eclipse
    eclipse工程目录 F:\workspace

Step1 导入 Hadoop-eclipse 插件工程

获取 hadoop-1.2.1.tar.gz

解压缩到 Eclipse workspace 目录下

在 Eclipse 中选择 File—>Import—>Existing Projects into Workspace 导入已有项目,路径为: F:\workspace\hadoop-1.2.1\src\contrib\eclipse-plugin,其默认的项目名称是 MapReduceTools
Step2 导入所需 jar 包

在项目 MapReduceTools 中新建 lib 目录,将 hadoop-1.2.1 下的 hadoop-core-1.2.1.jar(重命名为 hadoop.core.jar),及其 lib 目录下的 commons-cli-1.2.jar、commons-lang-2.4.jar、commons-configuration-1.6.jar、jackson-mapper-asl-1.8.8.jar、jackson-core-asl-1.8.8.jar、commons-httpclient-3.0.1.jar 拷贝到该目录。
Step3 build-contrib.xml

将 F:\workspace\hadoop-1.2.1\src\contrib\build-contrib.xml(与 eclipse-plugin 包在同一级目录)拷贝到 MapReduceTools 项目目录中。

修改 build-contrib.xml,注意路径用 "/"

<!— 修改 hadoop 存放目录—>
<property name="hadoop.root" location="F:/workspace/hadoop-1.2.1"/>
<!— 添加 eclipse 存放目录—>
<property name="eclipse.home" location="F:/eclipse" />

ps : 如果是myeclipse   location="MyEclipse/MyEclipse 10/Uninstaller"
<!— 添加 hadoop 版本—>
<property name="version" value="1.2.1"/>
Step4 build.xml

<!— 1.修改 build-contrib.xml 的位置,去掉"../"—>
<import file="build-contrib.xml"/>

<!— 2.添加如下,否则提示"软件包 org.apache.hadoop.fs 不存在"—>
<path id="hadoop-jars">
  <fileset dir="${hadoop.root}/">
    <include name="hadoop-*.jar"/>
  </fileset>
</path>

<path id="classpath">
  <pathelement location="${build.classes}"/>
  <pathelement location="${hadoop.root}/build/classes"/>
  <path refid="eclipse-sdk-jars"/>
  <path refid="hadoop-jars"/>
</path>

<!— 3.修改并添加 jar 包拷贝—>
<target name="jar" depends="compile" unless="skip.contrib">
  <mkdir dir="${build.dir}/lib"/>
  <copy file="${hadoop.root}/hadoop-core-${version}.jar" tofile="${build.dir}/lib/hadoop-core.jar" verbose=""true"/>
  <copy file="${hadoop.root}/lib/commons-cli-1.2.jar" todir="${build.dir}/lib" verbose="true"/>
  <copy file="${hadoop.root}/lib/commons-lang-2.4.jar" todir="${build.dir}/lib" verbose="true"/>
  <copy file="${hadoop.root}/lib/commons-configuration-1.6.jar" todir="${build.dir}/lib" verbose="true"/>
  <copy file="${hadoop.root}/lib/jackson-mapper-asl-1.8.8.jar" todir="${build.dir}/lib" verbose="true"/>
  <copy file="${hadoop.root}/lib/jackson-core-asl-1.8.8.jar" todir="${build.dir}/lib" verbose="true"/>
  <copy file="${hadoop.root}/lib/commons-httpclient-3.0.1.jar" todir="${build.dir}/lib" verbose="true"/>
  <jar jarfile="${build.dir}/hadoop-${name}-${version}.jar" manifest="${root}/META-INF/MANIFEST.MF">
    <fileset dir="${build.dir}" includes="classes/ lib/"/>
    <fileset dir="${root}" includes="resources/ plugin.xml"/>
  </jar>
</target>
Step5 MANIFEST.MF

修改 META-INF/MANIFEST.MF

Bundle-ClassPath: classes/,
  lib/hadoop-core.jar ,
  lib/commons-cli-1.2.jar,
  lib/commons-httpclient-3.0.1.jar,
  lib/jackson-core-asl-1.8.8.jar,
  lib/jackson-mapper-asl-1.8.8.jar,
  lib/commons-configuration-1.6.jar,
  lib/commons-lang-2.4.jar
Step6 Ant 编译

    右键 MapReduceTools 工程,Properties—>Builders—>New—>Ant Builder
    New_Builder—>Edit:
        Name (见名知意): plugin_Builder
        Buildfile (build.xml的位置): F:\workspace\hadoop-1.0.4\src\contrib\eclipse-plugin\build.xml
    Project—>Build Project

编译成功会输出 BUILD SUCCESSFUL ^^
Step7 安装插件

编译结果在 F:\workspace\hadoop-1.2.1\build\contrib\eclipse-plugin 目录下

将 hadoop-eclipse-plugin-1.2.1.jar 放入 F:\eclipse\plugins 目录下,重启 eclipse
Step7 配置插件

    打开 map/Reduce Locations
    右键 New Hadoop Location…,输入 Location Name(见名知意),修改 Map/Reduce Master 和 DFS Master,User name 设置为你启动 hadoop 的名称。
    设置 Advanced parameters
        修改 hadoop.tmp.dir 为你 hadoop 集群中设置的目录
        修改 dfs.replication 为你 hdfs-site.xml 文件中配置的值
    重启 eclipse

分享到:
评论

相关推荐

    hadoop-core-1.2.1.jar

    Win7环境下通过eclipse连接hadoop1.2.1集群时,会遇到如下报错: Exception in thread "main" java.io.IOException: Failed to set permissions of path: \tmp\hadoop-Administrator\mapred\staging\Administrator-...

    去权限后的Hadoop-eclipse-1.2.1.jar插件

    再把hadoop eclipse plugin 1 2 1 jar插件也编译成功了(这个大家多懂得 用eclipse开发hadoop程序必备的插件 ) 我尝试过可用 希望这两个包对大家有用 自己编译摸索很耗时间的 如果先没时间 可以用现成的用用 之后...

    hadoop-eclipse-plugin-1.2.1.jar

    hadoop-eclipse-plugin-1.2.1.jar,给 Eclipse 用的 Hadoop 插件,1.2.1 版本。可以自己编译,请参考: http://blog.iamteer.com/archives/hadoop-eclipse-plugin.html 嫌麻烦可以直接下载,放到 Eclipse 的 ...

    hadoop-eclipse-plugin-1.2.1插件

    luna编译的hadoop-eclipse-plugin-1.2.1插件

    hadoop2.6.0 eclipse 插件 jdk1.6环境编译64位

    因为从1.2.1版本升级到2.6以后老的不能用,自己编译了一个,网上找的不行,是1.7编译的,太新了所以自己编译了一个。是64位系统上编译的,java 版本是1.6. 已经测试能够使用了。

    hadoop-eclipse-plugin-2.7.3.jar

    由于hadoop-eclipse-1.2.1插件需要自行编译,如果有需要可以从点击并下载资源。下载这个jar包后,将它放置在myeclipse/plugins目录下,并重启myeclipse即可。

    Hadoop完全分布式详细安装过程

    - 安装Hadoop Eclipse Plugin插件以增强Hadoop开发支持。 - **注意事项**: - 确保下载的Eclipse版本与操作系统兼容。 - Hadoop Eclipse Plugin插件可以从Apache官网或第三方网站获取。 #### 七、运行简单的...

    apache-hive-1.2.1-src.zip

    然后,使用Maven插件将源代码导入为Eclipse项目,进行编译和构建。调试时,你可以设置断点,查看Hive处理查询的各个步骤,理解其内部机制。 在学习Hive源代码的过程中,你可能会接触到如AST(抽象语法树)、优化器...

    hive自定义UDF编写函数.docx

    为了实现该函数,我们需要引入两个 jar 包:hadoop-common-2.7.3.jar 和 hive-exec-1.2.1.jar。 三、编译和打包 UDF jar 包 为了将 UDF 函数编译成 jar 包,我们需要在项目中添加一个 MANIFEST.MF 文件,定义主类...

    零基础学Java Web开发

    1. **平台无关性**:Java编译后的字节码可以在任何安装了JVM的平台上运行,极大地降低了软件移植的成本。 2. **安全性**:Java提供了严格的安全控制措施,能够有效防止恶意代码的入侵。 3. **面向对象**:支持类、...

Global site tag (gtag.js) - Google Analytics