`
waw
  • 浏览: 23681 次
  • 性别: Icon_minigender_1
  • 来自: 苏州
社区版块
存档分类
最新评论

Hadoop学习(一) - 搭建环境&示例程序

 
阅读更多

环境:

 CentOS release 6.5 (Final)

 hadoop-2.2.0 下载地址: http://archive.apache.org/dist/hadoop/core/hadoop-2.2.0/hadoop-2.2.0.tar.gz

 hadoop-eclipse-kepler-plugin-2.2.0 下载地址: http://pan.baidu.com/s/1mgvCVgc

 eclipse 3.3.2 (eclipse 版本可随意, 但是 hadoop的版本 和 插件的版本最好要一致)

 

 1.配置hadoop

配置 etc/hadoop/hadoop-env.sh h和  etc/hadoop/yarn-env.sh 中的JAVA_HOME路径

 

export JAVA_HOME=/usr/java/jdk1.7.0_67/

配置文件 hdfs-site.xml 

<configuration>
<property>
    <name>fs.default.name</name>
    <value>hdfs://localhost:9000/</value>
  </property>
  <property>
  <name>mapred.job.tracker</name>
   	<value>localhost:9001</value>
  </property>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
  <property> 
  <name>mapred.child.java.opts</name> 
  <value>-Xmx1024m</value> 
</property> 
 <property>
        <name>dfs.permissions</name>
        <value>true</value>
</property>
</configuration>

 

2启动

 ./bin/hadoop namenode -format

 ./sbin/start-all.sh

 

3.eclipse 插件安装, 将附件中jar包拷到eclipse plugins 目录,重启eclipse



 



 

 

 

 

 

4.新建 Map/reduce工程



 

  • 大小: 25.1 KB
  • 大小: 22.5 KB
  • 大小: 33.5 KB
  • 大小: 129.4 KB
分享到:
评论

相关推荐

    hadoop -1.2.1-jar(全)

    4. **hadoop-examples-1.2.1.jar**:此JAR包提供了几个示例程序,演示了如何使用Hadoop MapReduce进行简单的数据处理任务,如WordCount、PiEstimator等,这些示例对于初学者理解Hadoop的工作原理非常有帮助。...

    hadoop-common-2.7.6 win

    8. **运行示例程序**: 可以尝试运行Hadoop自带的WordCount程序,验证环境是否配置成功。 9. **安全配置** (可选): 如果在生产环境中,可能还需要考虑安全性配置,例如启用Kerberos认证,或者使用Hadoop的Secure ...

    hadooponwindows-master.rar

    标题 "hadooponwindows-master.rar" 暗示这是一个关于在Windows系统上搭建Hadoop环境的项目或教程的压缩文件。Hadoop是一个开源框架,主要用于处理和存储大规模数据,最初设计时主要考虑的是运行在Linux集群上,但...

    hadoop-2.7.2---win10.zip

    在Windows环境下搭建和运行Hadoop并不像在Linux系统中那么常见,因为Hadoop最初是为Linux设计的,但在Windows上运行Hadoop可以帮助开发者在本地环境中进行测试和学习,而无需立即转向Linux环境。下面将详细介绍如何...

    hadoop-3.2.2环境搭建操作安装指南

    安装完成后,你可以尝试运行一些示例程序,例如WordCount,来验证Hadoop环境是否正确搭建。同时,提供的`Hadoop装机日志.docx`文档可能会包含更具体的步骤和注意事项,可以帮助你在安装过程中解决可能出现的问题。 ...

    hadoop-2.6.5-win10x64-1809.tar.gz

    这个压缩包包含的是Hadoop 2.6.5版本,这是Apache Hadoop的一个稳定版本,发布于2016年,对于开发者来说,它是搭建和运行Hadoop集群的一个可靠选择。 【描述】中提到的"windows系统HDFS"意味着这个版本的Hadoop包含...

    高级软件人才培训专家-Hadoop课程资料-3-第三章 - MapReduce & YARN入门

    - **环境搭建**:安装配置Hadoop集群,包括配置HDFS、YARN、MapReduce等相关服务。 - **注意事项**:确保所有节点之间的网络通信顺畅;合理设置内存、CPU等硬件资源分配;正确配置YARN和MapReduce参数以优化性能。 ...

    hadoop-2.7.5-bin压缩包,适合在window平台运行hadoop和spark程序,其中的文件已做替换

    在这个版本中,可能已经预装了一些示例MapReduce程序,供用户参考和学习。 8. **Spark集成**:Spark是另一个大数据处理框架,它可以与Hadoop紧密集成。在Hadoop 2.7.5中运行Spark,需要配置Spark的相关环境,如...

    学习hadoop--java零基础学习hadoop手册

    本手册旨在为完全没有Java基础的学习者提供一个从零开始学习Hadoop的路线图。Hadoop是一个能够处理大量数据的大规模分布式计算框架,其核心组件包括HDFS(Hadoop Distributed File System)和MapReduce。 #### 二、...

    Hadoop权威指南---中文版

    - **Hadoop流**:解释了Hadoop流作为一种工具,允许开发者使用脚本语言来编写MapReduce程序,而无需使用Java。 - **Hadoop管道**:进一步深入讨论Hadoop如何利用管道机制来优化数据处理流程。 #### 四、Hadoop...

    win10下编译过的hadoop jar包--hadoop-2.7.2.zip

    一旦Hadoop环境配置完成,你可以尝试运行Hadoop自带的示例程序,如WordCount,来验证安装是否成功。WordCount程序会统计文本文件中每个单词出现的次数,是MapReduce的经典示例。 总的来说,Hadoop 2.7.2在Win10上的...

    brooklyn-example-hadoop-and-whirr-0.6.0-rc.2.zip

    标题 "brooklyn-example-hadoop-and-whirr-0.6.0-rc.2.zip" 暗示了这是一个关于Apache Brooklyn、Hadoop和Whirr的开源项目示例。Apache Brooklyn是一个云应用管理和编排平台,而Hadoop是大数据处理的基石,Whirr则是...

    eclipse运行hadoop2.7.3程序依赖的jar包

    6. **测试程序**:编写一个简单的Hadoop MapReduce程序,例如WordCount示例,来测试你的环境是否配置正确。MapReduce程序通常包括Mapper类、Reducer类以及主类,主类负责提交作业到集群。 7. **运行与调试**:在...

    hadoop-3.1.0-windows依赖文件.7z

    7. **运行MapReduce示例**: 可以通过执行MapReduce的示例程序,如WordCount,来验证Hadoop的正确安装和配置。 了解和掌握Hadoop在Windows上的部署和使用,对于学习大数据处理和分布式计算至关重要。这不仅能够帮助...

    Hadoop开发环境搭建

    在“压缩包子文件的文件名称列表”中提到的“hadoop开发环境”可能包含了一系列用于搭建Hadoop开发环境的文件和文档,如Hadoop的安装包、配置文件模板、示例代码等。这些资源可以帮助初学者快速理解和配置Hadoop环境...

    搭建hadoop-1.2.1环境

    搭建Hadoop-1.2.1环境是一项关键任务,它涉及到多步骤的配置和安装,以便在集群中运行分布式计算任务。在这个过程中,我们将使用VMware9和Debian7作为基础操作系统,创建三台虚拟机(vmDebA、vmDebB、vmDebC)来构建...

    Hadoop应用开发-实验指导书.doc

    5. **编写WordCount程序**:使用Java编写一个简单的WordCount程序,并使用Hadoop运行该程序。 #### 练习题 - 如何查看HDFS中的文件列表? - 在本地模式下,如何提交一个MapReduce任务? ### Hadoop伪分布式集群...

    linux搭建hadoop环境

    为了更好地理解和使用Hadoop,本文将详细介绍如何在Linux系统上搭建一个基本的Hadoop环境。 #### 二、准备工作 1. **安装JDK**: - 在安装Hadoop之前,首先需要确保系统已经安装了JDK(Java Development Kit)。...

    hadoop环境搭建手册

    - `hadoop jar hadoop-mapreduce-examples.jar wordcount input output`: 运行WordCount示例程序。 #### 七、Hadoop基本流程 1. **输入数据准备**:将数据加载到HDFS。 2. **编写MapReduce程序**:根据业务需求...

Global site tag (gtag.js) - Google Analytics