`

hadoop2编译

阅读更多
64位centos 下编译【2.X后官网只有32位编译后的文件】
首先从官网下载hadoop源码这里(我使用的是2.6.3),并且你的虚拟机必须是可以上网这样maven依赖包就可以获得
编译需要的环境
sudo yum -y install gcc*
sudo yum -y install cmake
sudo yum -y install glibc-headers
sudo yum -y install gcc-c++
sudo yum -y install zip-devel
sudo yum -y install openssl-devel
sudo yum -y install svn
sudo yum -y install git
sudo yum -y install ncurses-devel
sudo yum -y install lzo-devel
sudo yum -y install autoconf
sudo yum -y install libtool
sudo yum -y install automake


一. 下载必要的组件

a) 下载hadoop源码 (当前最新的稳定版是2.6.0)
地址  http://mirrors.hust.edu.cn/apache/hadoop/common/stable/hadoop-2.6.0-src.tar.gz
b) 下载apache-ant (centos自带的ant版本太低,编译过程中会报错)
地址: http://mirrors.cnnic.cn/apache//ant/binaries/apache-ant-1.9.4-bin.zip (最新版本即可)
c) 下载protobuf-2.5.0.tar.gz (这是google出品的一个数据传输格式)
地址: https://developers.google.com/protocol-buffers/docs/downloads (官网地址要翻!墙!,百度上也能找到国内下载地址)
注意:hadoop2.6.0必须配protobuf 2.5.0版本,版本不匹配,编译将失败
d) 下载findbugs
地址: http://prdownloads.sourceforge.net/findbugs/findbugs-3.0.1.tar.gz?download (最新版本即可)
e) 下载maven
地址: http://maven.apache.org/download.cgi (下载最新版即可,本文中用的是3.2.5)
f) 下载jdk
地址:这个比较容易找,大家自己去oracle官网找着,jdk1.6 及以上(本文用的是1.7)

配置\安装protobuf

进入protobuf所在目录,然后按下面顺序操作
./configure
make
make check
sudo make install

[root@CentOS4 conf]# export MAVEN_HOME=/usr/local/apache-maven-3.3.9
[root@CentOS4 conf]# export PATH=$PATH:$MAVEN_HOME/bin
[root@CentOS4 conf]# source /etc/profile


所有的环境配置好后执行mvn -version会出现
[root@CentOS4 hadoop-2.6.3-src]# mvn -version
Apache Maven 3.3.9 (bb52d8502b132ec0a5a3f4c09453c07478323dc5; 2015-11-11T00:41:47+08:00)
Maven home: /usr/local/apache-maven-3.3.9
Java version: 1.7.0_95, vendor: Oracle Corporation
Java home: /usr/lib/jvm/java-1.7.0-openjdk-1.7.0.95-2.6.4.0.el7_2.x86_64/jre
Default locale: zh_CN, platform encoding: GBK
OS name: "linux", version: "3.10.0-327.el7.x86_64", arch: "amd64", family: "unix"

进入hadoop源代码目录,输入
mvn clean package -DskipTests -Pdist,native -Dtar
mvn compile -DskipTests -Pdist,native -Dtar

编译成功后,hadoop-2.6.0-src/hadoop-dist/target 这个目录下会生成编译结果
分享到:
评论

相关推荐

    ubuntu12.04上hadoop2编译64位

    在Ubuntu 12.04系统中,如果你需要将32位的Hadoop 2.2.0编译成64位,以下是一份详细的步骤指南。首先,确保你的系统支持64位编译,并且你已经具备了必要的权限。 1. **安装GCC**: 在编译任何软件之前,你需要安装...

    Hadoop 源码编译所需软件

    2. **获取源码**:从Cloudera的官方仓库或者GitHub上克隆Hadoop CDH的源代码。 3. **依赖管理**:下载并安装所有必要的依赖,这包括Hadoop自身依赖的其他开源项目,如Zookeeper、Avro、Protobuf等,以及在这个例子...

    5_尚硅谷大数据之Hadoop源码编译1

    t-1.9.9]# vi /etc/profile #ANT_HOME export ANT_HOME=/opt/module/apache-ant-1.9.9 export PATH=$PATH:$ANT_HOME/bin [root@hadoop101 software]#source /etc/profile 验证命令:ant -version 4)protobuf 编译与...

    Hadoop源码编译需要工具

    在描述中提到了三个关键的压缩包文件,它们分别是protobuf-2.5.0.tar.gz、apache-maven-3.0.5-bin.tar.gz和apache-ant-1.9.9-bin.tar.gz,这些是Hadoop编译过程中的核心组成部分。 1. **protobuf-2.5.0.tar.gz**: ...

    hadoop源码编译mvn库

    hadoop源码编译所需要的maven仓库,省去编译时下载时间。

    hadoop 2.5.0 编译snappy

    在Hadoop 2.5.0版本中,为了优化性能,用户可能会选择编译Snappy与Hadoop进行集成。下面我们将详细探讨如何在Linux Centos 6.4环境下编译Hadoop 2.5.0中的Snappy以及相关注意事项。 首先,确保你的系统已经安装了...

    hadoop源码编译所需软件包

    在对Hadoop源码进行编译的过程中,确保正确地安装和配置所有必要的软件包是至关重要的。以下将详细阐述这些软件包的作用以及如何在编译Hadoop源码时使用它们。 1. **protobuf (Protocol Buffers)** Protocol ...

    hadoop windows 编译版 bin 和 lib

    在这个场景中,我们讨论的是一个特别为Windows编译的Hadoop版本,包含了`bin`和`lib`两个关键目录。 1. **bin** 目录: `bin`目录包含了Hadoop的可执行脚本,这些脚本用于启动、管理和操作Hadoop集群。例如,`...

    win 7 64上编译 Hadoop 2.7.3 源码

    2. **执行编译命令**:打开命令提示符窗口,进入Hadoop源码目录,运行`mvn clean package -DskipTests -Dmaven.javadoc.skip=true -Pdist,native -Dtar`命令来开始编译过程。该命令将跳过测试、Javadoc生成,并编译...

    hadoop2源文件编译为64位依赖包

    当我们需要在64位系统上编译Hadoop 2的源代码时,会涉及到一系列的依赖包和编译步骤。下面将详细介绍这个过程。 首先,为了编译Hadoop 2源代码,我们需要确保我们的开发环境已经安装了必要的工具和库。这些通常包括...

    Hadoop源码编译支持Snappy压缩教程

    2. **安装Hadoop编译环境** - 确保已安装JDK 1.7或以上版本。 - 安装Maven 3.0或更高版本。 - 安装其他必需组件:Findbugs、ProtocolBuffer、CMake、Zlib devel、openssl devel、Jansson C XML解析库、Linux ...

    Hadoop2.74 编译bin文件

    这个压缩包“hadoop2.7.4-编译bin”显然包含了经过编译的Hadoop 2.7.4二进制文件,特别是解决了缺少hadoop.dll的问题。用户可以直接将这些文件复制到你的Hadoop 2.7.4安装目录下的相应位置,替换原有的未编译文件,...

    hadoop2.7.6编译后的

    2. **README.txt**:这是项目的基本指南,通常包含了安装、配置和使用Hadoop的基本步骤,以及可能遇到的问题和解决方法。 3. **etc**:这个目录通常包含Hadoop的配置文件,如core-site.xml、hdfs-site.xml、mapred-...

    Hadoop 编译 64  位本地库 方法

    本文将详细讲解如何在64位系统上编译Hadoop的本地库,以便于在特定环境中优化Hadoop的性能。我们将遵循一个步骤来完成这个过程。 首先,确保你有一个64位的操作系统,例如这里提到的CentOS 6.4。在开始编译之前,你...

    hadoop源码编译安装包及安装步骤

    本文将详细介绍如何编译和安装Hadoop源码,确保你能够按照提供的步骤顺利进行。 首先,我们需要了解Hadoop的基本概念。Hadoop是由Apache软件基金会开发的,它基于Java语言,实现了MapReduce编程模型和分布式文件...

    Hadoop源码编译 PDF 下载

    对于Java开发者来说,深入理解Hadoop的源码并进行编译是非常有益的,可以帮助我们更好地利用这个强大的工具,同时也能提升自身的编程技能。本文将详细介绍如何编译Hadoop的源码。 首先,编译Hadoop源码需要以下基本...

    Hadoop2.7.3编译

    3. **编译Hadoop**:运行`mvn clean install -DskipTests`命令,这将清除之前的编译结果,然后进行编译并跳过单元测试(如果想运行测试,可以去掉`-DskipTests`)。 4. **构建过程**:编译过程中,Maven会下载依赖...

    hadoop2.6.0编译工具(全部除JDK)

    在Hadoop编译过程中,Maven也可用于构建部分组件或辅助Ant完成任务。`apache-maven-3.0.5-bin.tar.gz`包含了Maven的可执行版本。 3. **FindBugs**: FindBugs是一款静态代码分析工具,它可以检测Java代码中的潜在...

    hadoop-3.1.1编译

    - **Hadoop Metrics2**:提供了一套统一的接口,用于收集、聚合和暴露Hadoop组件的度量信息,方便系统监控和性能分析。 - **Ambari集成**:Ambari是一个用于部署、管理和监控Hadoop集群的工具,3.1.1版本中对...

    hadoop2.x编译实例

    ### Hadoop 2.x 编译实例详解 #### 一、环境准备与配置 本章节主要介绍如何在 CentOS 6.5 系统上搭建 Hadoop 2.2.0 的开发环境,并进行编译。 ##### 1.1 安装 JDK 在编译 Hadoop 前,首先需要安装 JDK 并配置其...

Global site tag (gtag.js) - Google Analytics