`

《Hadoop基础教程》之初识Hadoop

 
阅读更多

        Hadoop一直是我想学习的技术,正巧最近项目组要做电子商城,我就开始研究Hadoop,虽然最后鉴定Hadoop不适用我们的项目,但是我会继续研究下去,技多不压身。

         《Hadoop基础教程》是我读的第一本Hadoop书籍,当然在线只能试读第一章,不过对Hadoop历史、核心技术和应用场景有了初步了解。

 

  • Hadoop历史

        雏形开始于2002年的Apache的Nutch,Nutch是一个开源Java 实现的搜索引擎。它提供了我们运行自己的搜索引擎所需的全部工具。包括全文搜索和Web爬虫。

        随后在2003年Google发表了一篇技术学术论文谷歌文件系统(GFS)。GFS也就是google File System,google公司为了存储海量搜索数据而设计的专用文件系统。

        2004年Nutch创始人Doug Cutting基于Google的GFS论文实现了分布式文件存储系统名为NDFS。

        2004年Google又发表了一篇技术学术论文MapReduce。MapReduce是一种编程模型,用于大规模数据集(大于1TB)的并行分析运算。

        2005年Doug Cutting又基于MapReduce,在Nutch搜索引擎实现了该功能。

        2006年,Yahoo雇用了Doug Cutting,Doug Cutting将NDFS和MapReduce升级命名为Hadoop,Yahoo开建了一个独立的团队给Goug Cutting专门研究发展Hadoop。

        不得不说Google和Yahoo对Hadoop的贡献功不可没。

 

  • Hadoop核心

        Hadoop的核心就是HDFS和MapReduce,而两者只是理论基础,不是具体可使用的高级应用,Hadoop旗下有很多经典子项目,比如HBase、Hive等,这些都是基于HDFS和MapReduce发展出来的。要想了解Hadoop,就必须知道HDFS和MapReduce是什么。

 

  • HDFS

HDFS(Hadoop Distributed File System,Hadoop分布式文件系统),它是一个高度容错性的系统,适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问,适合那些有着超大数据集(large data set)的应用程序。

 

HDFS的设计特点是:

1、大数据文件,非常适合上T级别的大文件或者一堆大数据文件的存储,如果文件只有几个G甚至更小就没啥意思了。

2、文件分块存储,HDFS会将一个完整的大文件平均分块存储到不同计算器上,它的意义在于读取文件时可以同时从多个主机取不同区块的文件,多主机读取比单主机读取效率要高得多得都。

3、流式数据访问,一次写入多次读写,这种模式跟传统文件不同,它不支持动态改变文件内容,而是要求让文件一次写入就不做变化,要变化也只能在文件末添加内容。

4、廉价硬件,HDFS可以应用在普通PC机上,这种机制能够让给一些公司用几十台廉价的计算机就可以撑起一个大数据集群。

5、硬件故障,HDFS认为所有计算机都可能会出问题,为了防止某个主机失效读取不到该主机的块文件,它将同一个文件块副本分配到其它某几个主机上,如果其中一台主机失效,可以迅速找另一块副本取文件。

 

HDFS的关键元素:

Block:将一个文件进行分块,通常是64M。

NameNode:保存整个文件系统的目录信息、文件信息及分块信息,这是由唯一一台主机专门保存,当然这台主机如果出错,NameNode就失效了。在Hadoop2.*开始支持activity-standy模式----如果主NameNode失效,启动备用主机运行NameNode。

DataNode:分布在廉价的计算机上,用于存储Block块文件。


 

 

  • MapReduce

通俗说MapReduce是一套从海量·源数据提取分析元素最后返回结果集的编程模型,将文件分布式存储到硬盘是第一步,而从海量数据中提取分析我们需要的内容就是MapReduce做的事了。

 

下面以一个计算海量数据最大值为例:一个银行有上亿储户,银行希望找到存储金额最高的金额是多少,按照传统的计算方式,我们会这样:

Long moneys[] ...
Long max = 0L;
for(int i=0;i<moneys.length;i++){
  if(moneys[i]>max){
    max = moneys[i];
  }
}

 

 如果计算的数组长度少的话,这样实现是不会有问题的,还是面对海量数据的时候就会有问题。

MapReduce会这样做:首先数字是分布存储在不同块中的,以某几个块为一个Map,计算出Map中最大的值,然后将每个Map中的最大值做Reduce操作,Reduce再取最大值给用户。


        MapReduce的基本原理就是:将大的数据分析分成小块逐个分析,最后再将提取出来的数据汇总分析,最终获得我们想要的内容。当然怎么分块分析,怎么做Reduce操作非常复杂,Hadoop已经提供了数据分析的实现,我们只需要编写简单的需求命令即可达成我们想要的数据。

 

 

  • 总结

        总的来说Hadoop适合应用于大数据存储和大数据分析的应用,适合于服务器几千台到几万台的集群运行,支持PB级的存储容量。

        Hadoop典型应用有:搜索、日志处理、推荐系统、数据分析、视频图像分析、数据保存等。

        但要知道,Hadoop的使用范围远小于SQL或Python之类的脚本语言,所以不要盲目使用Hadoop,看完这篇试读文章,我知道Hadoop不适用于我们的项目。不过Hadoop作为大数据的热门词,我觉得一个狂热的编程爱好者值得去学习了解,或许你下一个归宿就需要Hadoop人才,不是吗。

 

 

 

  • 大小: 80.7 KB
  • 大小: 86.6 KB
56
0
分享到:
评论
32 楼 davidforit 2017-08-22  
你那个“2004年Nutch创始人Doug Cutting基于Google的GFS论文实现了分布式文件存储系统名为NDFS。”
是NDFS还是HDFS?
31 楼 richardri 2016-10-22  
请问楼主,我现在运行的项目没用到hadoop,但目前查询数据非常慢,数据1亿左右,经常要接时间段统计这1亿数据的某个字段去重后的汇总,像这样的情况适合用hadoop吗?数据量未来会更多。
30 楼 macocao 2016-09-22  
最后一段很好
29 楼 xxxprince 2016-08-16  
 
28 楼 laojiu19910222 2016-07-19  
666
27 楼 xiniu_0123 2016-07-08  
很受用 感谢楼主
26 楼 xiao514353090 2016-06-23  
666666
25 楼 liuwuhen 2016-03-30  
24 楼 answerhuang3 2016-03-09  
简单明了,对于后面更深入的理解会有帮助
23 楼 kopsteve 2015-12-16  
言简意赅 通俗易懂
22 楼 whl401765060 2015-12-12  
通俗易懂,例子举的很好。想hadoop进发!!
21 楼 linmomo02 2015-08-31  
20 楼 张晓燕 2015-08-13  
通俗易懂
19 楼 ayanami001 2015-07-29  
这个说的很靠谱
不是每个互联网项目都需要用到这些的
适合的才是最好的
18 楼 拨弦waitC 2015-07-03  
道理谁都知道,就是实现呢
17 楼 ywf008 2015-06-23  
16 楼 欧阳鹏 2015-06-11  
简单易懂
15 楼 18862611051 2015-05-30  
         赞一个
14 楼 一炮送你回车库 2015-05-26  
牛逼
13 楼 oqqo1193624498 2015-05-21  

相关推荐

    hadoop基础教程

    很不错的hadoop基础教程,就是书有点老了,可以作为基础拿来看

    大数据Hadoop视频教程

    大数据Hadoop视频教程大数据Hadoop视频教程大数据Hadoop视频教程

    hadoop入门教程.pdf

    【Hadoop入门教程】 ...以上就是安装和配置Hadoop 1.0.4的基础步骤,一旦熟悉了这个过程,你就可以进一步学习Hadoop的分布式文件系统(HDFS)和MapReduce编程模型,从而更好地理解和应用大数据处理。

    hadoop教程ppt.ppt

    hadoop教程ppt.ppt

    hadoop系列教程7

    Hadoop的安装和配置虽然看起来复杂,但只要按照上述步骤操作,就可以顺利搭建起开发环境,为后续的大数据处理和分析工作打下基础。Hadoop的分布式计算和存储能力,使得它成为处理大规模数据集的首选框架。随着数据量...

    Hadoop安装教程_单机/伪分布式配置_Hadoop2.7.1/Ubuntu 16.04

    Hadoop安装教程_单机/伪分布式配置_Hadoop2.7.1/Ubuntu 16.04 本教程主要讲述了在 Ubuntu 16.04 环境下安装 Hadoop 2.7.1 的步骤,包括单机模式、伪分布式模式和分布式模式三种安装方式。以下是本教程的知识点总结...

    大数据之Hadoop学习教程+笔记合计_超详细完整.zip

    大数据之Hadoop学习教程+笔记合计_超详细完整.zip

    Hadoop入门教程

    在IT领域,Hadoop是一个...总之,《Hadoop入门教程》是一本针对初学者的宝贵资料,涵盖了从Hadoop基础到实战应用的全面内容。通过深入学习,你可以建立起对Hadoop的深刻理解,并为进一步探索大数据领域打下坚实基础。

    【IT十八掌徐培成】Hadoop第02天-01.Hadoop基础回顾-进程初识-webui.zip

    本资源"【IT十八掌徐培成】Hadoop第02天-01.Hadoop基础回顾-进程初识-webui.zip"聚焦于Hadoop的基础知识,特别是对Hadoop进程的理解以及如何通过Web UI进行监控。这里我们将深入探讨Hadoop的核心组件、进程架构以及...

    Hadoop安装使用教程0基础!!!易懂!!!

    Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程...

    Hadoop安装教程_单机_伪分布式配置

    2. **Hadoop版本**:本教程以Hadoop 2.6.0版本为基础进行介绍,但同样适用于Hadoop 2.x.y系列的其他版本。 3. **其他软件**:Java 1.7或更高版本。 #### 三、安装前准备 1. **创建Hadoop用户**:为了安全起见,建议...

    hadoop基础入门

    ### Hadoop基础入门知识点详解 #### 一、Hadoop概览与背景介绍 **1.1 什么是Hadoop** Hadoop是由Apache基金会维护的一个开源软件框架,它支持使用普通的硬件来构建大规模的数据处理集群。Hadoop的核心优势在于...

    Hadoop安装教程_单机_伪分布式配置_Hadoop2.6.0_Ubuntu14.04_给力星.html

    网上找的,适合于原生Hadoop2,包括Hadoop 2.6.0, Hadoop 2.7.1 等版本,主要参考了官方安装教程,步骤详细,辅以适当说明,相信按照步骤来,都能顺利安装并运行Hadoop。

    新版Hadoop视频教程 段海涛老师Hadoop八天完全攻克Hadoop视频教程 Hadoop开发

    第一天 hadoop的基本概念 伪分布式hadoop集群安装 hdfs mapreduce 演示 01-hadoop职位需求状况.avi 02-hadoop课程安排.avi 03-hadoop应用场景.avi 04-hadoop对海量数据处理的解决思路.avi 05-hadoop版本选择和...

    hadoop分布式部署教程

    Hadoop分布式部署是实现大规模数据处理的基础。通过上述步骤,可以构建起一个基本的Hadoop集群。然而,这只是开始,实际应用中还需要考虑更多的因素,如数据安全、性能优化等。随着技术的发展,Hadoop也在不断迭代,...

    Hadoop大数据开发基础.rar

    文档为PPT,与百度文库里的Hadoop大数据开发基础为一套,里面内容相对比较基础~可做基础学习资料PPT。 【实例截图】 【核心代码】 Hadoop大数据开发基础-PPT课件 └── 37066-Hadoop大数据开发基础-PPT课件 ├── ...

Global site tag (gtag.js) - Google Analytics