`

hadoop运行环境的搭建和hadoop源代码的编译

阅读更多

hadoop运行环境搭建:

http://blog.csdn.net/licongcong_0224/article/details/12972889

注:(1)所有的配置文件和节点处不要有空格;


          (2)master和所有的slaves的hadoop安装路径要一致;


          (3)datanode无法启动的原因八成是你多次format namenode造成的;
解决方法如下:


         [1.

          clusterID不一致,namenode的cid和datanode的cid不一致,导致的原因是对namenode进行format的之后,

          datanode  不会进行format,所以datanode里面的cid还是和format之前namenode的cid一样,

          解决办法是删除datanode里面的 dfs.datanode.data.dir目录和tmp目录,

          然后再启动start-dfs.sh

          ]
         [2.

          即使删除iptables之后,仍然报Datanode denied communication with namenode: DatanodeRegistration错误,

          参考文章http://stackoverflow.com/questions/17082789/cdh4-3exception-from-the-logs-after-start-dfs-sh-datanode-and-namenode-star

         可以知道需要把集群里面每个houst对应的ip写入/etc/hosts文件就能解决问题。

         ]

 

hadoop基本运行命令:

http://www.cnblogs.com/gpcuster/archive/2010/06/04/1751538.html

 


hadoop代码编译:

http://www.superwu.cn/2013/12/26/913/



 

分享到:
评论

相关推荐

    Hadoop 源码编译所需软件

    5. **编译与测试**:运行Maven或Gradle的构建命令,如`mvn clean install`,这会编译源代码并执行单元测试,确保代码的功能正确性。 6. **部署与集成**:编译完成后,将编译好的二进制文件部署到Hadoop集群中,然后...

    hadoop资料,hadoop基础,Hadoop源代码eclipse编译教程

    在Hadoop源代码编译方面,使用Eclipse作为开发工具是非常常见的方式。Eclipse是一款强大的Java集成开发环境,具有丰富的插件支持,使得Hadoop源码编译和调试变得更加方便。以下是一般的步骤: 1. 下载Hadoop源码:...

    如何编译Apache Hadoop2.4.0源代码

    本教程将详细解释如何在Linux环境下编译Apache Hadoop 2.4.0的源代码。 首先,确保你已经安装了Java Development Kit (JDK)。Hadoop是用Java编写的,因此编译Hadoop需要JDK。你可以从Oracle官方网站下载JDK 7的最新...

    Hadoop源代码eclipse编译教程[汇编].pdf

    本文详细介绍了如何使用Eclipse编译Hadoop的源代码,包括下载Hadoop源代码、准备编译环境和编译Hadoop等步骤。通过本文,读者可以更好地掌握Hadoop的编译和使用,从而更好地应用Hadoop在大数据处理和分析中。

    hadoop 运行成功代码(wordcount)

    1. 使用Maven编译源代码,生成jar包。 2. 将测试数据上传到Hadoop的HDFS(Hadoop Distributed File System)。 3. 使用Hadoop命令提交WordCount程序,指定输入和输出路径。 4. Hadoop集群执行任务,完成后在指定的...

    Spark+Hadoop+IDE环境搭建

    本文将详细介绍如何在IDE环境下搭建Spark与Hadoop的集成环境。 首先,我们需要了解Hadoop的组成部分。Hadoop主要由HDFS(Hadoop Distributed File System)和MapReduce两部分组成。HDFS是分布式文件系统,用于存储...

    Eclipse中编译运行Hadoop-0.20.1源码

    总结一下,编译和运行Hadoop-0.20.1源码需要准备合适的开发环境,正确导入源代码到Eclipse项目,启动Hadoop集群,最后编译和运行源代码。通过这种方式,开发者可以深入理解Hadoop的工作流程,调试代码,以及进行定制...

    Hadoop2.7.3编译

    3. **Git**:用于从GitHub或其他源获取Hadoop源代码。确保`git`命令在终端中可执行。 4. **操作系统**:Hadoop可以在多种操作系统上编译,如Ubuntu、CentOS等Linux发行版,以及macOS和Windows(可能需要额外配置)...

    Hadoop分布式集群搭建所需安装包资源

    接下来,我们来看`hadoop-2.7.5.tar.gz`,这是Apache Hadoop 2.7.5的源代码压缩包。Hadoop是一个开源框架,用于存储和处理大规模数据集,它基于谷歌发表的分布式文件系统(GFS)和MapReduce编程模型。Hadoop 2.7.5是...

    macOS编译hadoop-2.8.5

    然后,你需要获取Hadoop源代码。可以从Apache Hadoop的官方网站下载Hadoop 2.8.5的源代码压缩包。解压后的文件名为`hadoop-2.8.5`,这正是你提供的压缩包子文件的名称。 接下来,打开终端,进入源代码目录: ```...

    Hadoop2.74 编译bin文件

    然而,当你直接使用官方下载的Hadoop 2.7.4源代码时,可能会遇到一个问题:由于缺少hadoop.dll,系统无法正常运行。这是因为官方提供的源码包通常不包含编译后的二进制文件,需要用户自行编译。 编译bin文件的过程...

    windows10环境下编译的hadoop的bin目录

    2. 下载Hadoop源码:从Apache官方网站获取最新或特定版本的Hadoop源代码。 3. 配置环境变量:设置JAVA_HOME指向JDK安装路径,添加Hadoop源码根目录到PATH环境变量。 4. 编译Hadoop:使用Maven作为构建工具,运行`...

    Hadoop源码编译需要工具

    标题中的“Hadoop源码编译需要工具”指的是在本地环境中构建Hadoop源代码时所需的必备组件。Hadoop是一个开源的分布式计算框架,主要用于处理和存储海量数据。为了从源代码编译Hadoop,我们需要一些特定的开发工具和...

    hadoop在window10下编译编译好的安装包,亲测100%可用

    在系统环境变量中添加Hadoop源代码的路径到`PATH`,以便后续编译过程能找到相关文件。 3. 配置Hadoop: 进入Hadoop源代码目录,编辑`conf/build.xml`配置文件,根据你的系统环境修改相关设置,如编译目标平台、...

    编译Hadoop需要的其他包(2.7.5)

    5. **编译与构建**:运行`mvn clean install`命令,Maven会自动下载缺失的依赖,编译源代码,并生成可部署的Hadoop二进制包。这个过程可能需要一段时间,因为Maven需要处理大量的依赖关系。 6. **测试和部署**:...

    hadoop-2.8.1 CentOS6.5编译的源码

    本文将深入探讨如何在CentOS 6.5操作系统上,从源代码编译Hadoop 2.8.1版本,以获取针对该系统的优化性能和自定义功能。 一、准备工作 在开始编译前,我们需要确保系统环境满足Hadoop编译的基本需求。对于CentOS ...

    hadoop编译后的包

    3. 配置Hadoop:进入源代码目录,运行`./configure`,在配置过程中,确保Hadoop检测到了Snappy库。如果需要,可以通过`--with-snappy`选项强制配置。 4. 编译和构建:执行`make`命令编译源码,然后使用`make ...

Global site tag (gtag.js) - Google Analytics