`
cenwenchu
  • 浏览: 165588 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
社区版块
存档分类
最新评论

分布式计算开源框架Hadoop入门实践

阅读更多

Author :岑文初<!----><o:p></o:p>

Email: wenchu.cenwc@alibaba-inc.com<o:p></o:p>

msn: cenwenchu_79@hotmail.com<o:p></o:p>

blog: http://blog.csdn.net/cenwenchu79/<o:p></o:p>

<o:p> </o:p>

... 2<o:p></o:p>

What is Hadoop. 2<o:p></o:p>

Why is hadoop. 6<o:p></o:p>

How to Use Hadoop & Tips 7<o:p></o:p>

环境:... 7<o:p></o:p>

部署考虑:... 7<o:p></o:p>

实施步骤:... 7<o:p></o:p>

Hadoop Command. 10<o:p></o:p>

Hadoop基本流程以及简单应用的开发... 11<o:p></o:p>

基本流程:... 11<o:p></o:p>

代码范例:... 13<o:p></o:p>

Hadoop集群测试... 18<o:p></o:p>

随想... 19<o:p></o:p>

<o:p> </o:p>


<o:p></o:p>

       SIP项目设计的过程中,对于它庞大的日志在早先就考虑使用任务分解的多线程处理模式来分析统计,在前面有一篇Blog中提到了那部分的设计,但是由于统计的内容暂时还是十分简单,所以就采用Memcache作为计数器结合Mysql完成了访问控制以及统计的工作。但未来,对于海量日志分析的工作,还是需要有所准备。现在最火的技术词汇莫过于“云计算”,在Open API日益盛行的今天,互联网应用的数据将会越来越有价值,如何去分析这些数据,挖掘其内在价值,就需要分布式计算来支撑起海量数据的分析工作。

       回过头来看,早先那种多线程,多任务分解的日志分析设计,其实是分布式计算的一个单机版缩略,如何将这种单机的工作分拆,变成集群工作协同,其实就是分布式计算框架设计所涉及的。在去年参加BEA的大会时候,BEAVMWare合作采用虚拟机来构建集群,无非就是希望使得计算机硬件能够类似于应用程序中的资源池中的资源,使用者无需关心资源的分配情况,最大化了硬件资源的使用价值。分布式计算也是如此,具体的计算任务交由哪一台机器执行,执行后由谁来汇总,这都由分布式框架的Master来抉择,而使用者只需简单的将待分析内容的提供给分布式计算系统作为输入,就可以得到分布式计算后的结果。    HadoopApache开源组织的一个分布式计算开源框架,在很多大型网站上都已经得到了应用,亚马逊,Facebook,Yahoo等等。对于我来说,最近的一个使用点就是服务集成平台的日志分析,服务集成平台的日志量将会很大,这也正好符合了分布式计算的适用场景(日志分析,索引建立就是两大应用场景)。

       当前没有正式确定使用,所以也是自己业余摸索,后续所写的相关内容,都是一个新手的学习过程,难免会有一些错误,只是希望记录下来可以分享给更多志同道合的朋友。

<o:p> </o:p>

What is Hadoop<o:p></o:p>

       搞什么东西之前,第一步是要知道What,然后是Why,最后才是How,但很多开发的朋友在做了多年项目以后,都习惯是先How,然后What,最后才是Why,这样只会变得浮躁,同时往往会将技术误用不适合的场景。

       Hadoop框架中最核心设计就是:MapReduceHDFSMapReduce的思想是由Google的一篇论文所提及而被广为流传的,简单的一句话解释MapReduce就是任务的分解与结果的汇总。HDFSHadoop分布式文件系统的缩写,为分布式计算存储提供了底层支持。

       MapReduce从它名字上来看就大致可以看出个缘由,两个动词Map,ReduceMap(展开)就是将一个任务分解成为多个任务,Reduce就是将分解后多任务处理的结果汇总起来,得出最后的分析结果。这不是什么新思想,其实在前面提到了多线程,多任务的设计就可以找到这种思想的影子。不论是现实社会,还是在程序设计中,一项工作往往可以被拆分成为多个任务,任务之间的关系可以分为两种:一种是不相关的任务,可以并行执行;另一种是任务之间有相互的依赖,先后顺序不能够颠倒,这类任务是无法并行处理的。回到过去,大学老师上课时让大家去分析关键路径,无非就是找最省时的任务分解执行方式。在分布式系统中,机器集群就可以看作硬件资源池,将并行的任务拆分交由每一个空闲机器资源去处理,能够极大地提高计算效率,同时这种资源无关性,对于计算集群的扩展无疑提供了最好的设计保证。(其实我一直认为Hadoop的卡通图标不应该是一个小象,应该是蚂蚁,分布式计算就好比蚂蚁吃大象,廉价的机器群可以匹敌任何高性能的计算机,纵向扩展的曲线始终敌不过横向扩展的斜线)。任务分解处理以后,那就需要将处理以后的结果在汇总起来,这就是Reduce要做的工作。

 

<!----><v:shapetype o:spt="75" coordsize="21600,21600" filled="f" stroked="f" id="_x0000_t75" path="m@4@5l@4@11@9@11@9@5xe" o:preferrelative="t"><v:stroke joinstyle="miter"></v:stroke><v:formulas><v:f eqn="if lineDrawn pixelLineWidth 0"></v:f><v:f eqn="sum @0 1 0"></v:f><v:f eqn="sum 0 0 @1"></v:f><v:f eqn="prod @2 1 2"></v:f><v:f eqn="prod @3 21600 pixelWidth"></v:f><v:f eqn="prod @3 21600 pixelHeight"></v:f><v:f eqn="sum @0 0 1"></v:f><v:f eqn="prod @6 1 2"></v:f><v:f eqn="prod @7 21600 pixelWidth"></v:f><v:f eqn="sum @8 21600 0"></v:f><v:f eqn="prod @7 21600 pixelHeight"></v:f><v:f eqn="sum @10 21600 0"></v:f></v:formulas><v:path o:extrusionok="f" o:connecttype="rect" gradientshapeok="t"></v:path><o:lock v:ext="edit" aspectratio="t"></o:lock></v:shapetype><v:shape id="_x0000_i1025" type="#_x0000_t75" style="WIDTH: 359.25pt; HEIGHT: 202.5pt"><v:imagedata src="file:///C:\DOCUME~1\WENCHU~1.CEN\LOCALS~1\Temp\msohtmlclip1\01\clip_image001.emz" o:title=""></v:imagedata></v:shape>

1 MapReduce<o:p></o:p>

       上图就是MapReduce大致的结构图,在Map前还可能会对输入的数据有split的过程,保证任务并行效率,在Map之后还会有shuffle的过程,对于提高Reduce的效率以及减小数据传输的压力有很大的帮助。后面会具体提及这些部分的细节。

<o:p> </o:p>

       HDFS是分布式计算的存储基石,Hadoop的分布式文件系统和其他分布式文件系统有很多类似的特质。

       分布式文件系统基本的几个特点:

1.       对于整个集群有单一的命名空间。

2.       数据一致性。适合一次写入多次读取的模型,客户端在文件没有被成功创建之前是无法看到文件存在。

3.       文件会被分割成多个文件块,每个文件块被分配存储到数据节点上,而且根据配置会有复制文件块来保证数据的安全性。

<o:p> </o:p>

<v:shape id="_x0000_i1026" type="#_x0000_t75" style="WIDTH: 309.75pt; HEIGHT: 219.75pt"><v:imagedata src="file:///C:\DOCUME~1\WENCHU~1.CEN\LOCALS~1\Temp\msohtmlclip1\01\clip_image003.emz" o:title=""></v:imagedata></v:shape>

2 HDFS<o:p></o:p>

       上图中展现了整个HDFS三个重要角色:NameNode,DataNode,Client

NameNode可以看作是分布式文件系统中的管理者,主要负责管理文件系统的命名空间,集群配置信息,存储块的复制。NameNode会存储文件系统的Meta-data在内存中,这些信息主要包括了文件信息,每一个文件对应的文件块的信息,每一个文件块在DataNode的信息。

DataNode是文件存储的基本单元。它存储Block在本地文件系统中,保存了BlockMeta-data,同时周期性的发送所有存在的block的报告给NameNode

Client就是需要获取分布式文件系统文件的应用程序。

这里通过三个操作来说明他们之间的交互关系。

<o:p> </o:p>

文件写入:

1.       ClientNameNode发起文件写入的请求。

2.       NameNode根据文件大小和文件块配置情况,返回给Client它所管理部分DataNode的信息。

3.       Client将文件划分为多个Block,根据DataNode的地址信息,按顺序写入到每一个DataNode块中。

<o:p> </o:p>

文件读取:

1.       ClientNameNode发起文件读取的请求。

2.       NameNode返回文件存储的DataNode的信息。

3.       Client读取文件信息。

<o:p> </o:p>

文件Block复制:

1.       NameNode发现部分文件的block不符合最小复制数或者部分DataNode失效。

2.       通知DataNode相互复制Block

3.       DataNode开始直接相互复制。

<o:p> </o:p>

最后在说一下HDFS的几个设计特点:(对于框架设计值得借鉴)

1.  Block的放置

默认不配置,一个Block会有三份备份。一份放在NameNode指定的DataNode,另一份放在与指定DataNode非同一Rack上的DataNode,最后一份放在与指定DataNode同一Rack上的DataNode上。备份无非就是为了数据安全,考虑同一Rack的失败情况以及不同Rack之间数据拷贝性能问题就采用这种配置方式。

<o:p> </o:p>

2.  心跳检测DataNode的健康状况,如果发现问题就采取数据备份的方式来保证数据的安全性。

<o:p> </o:p>

3.  数据复制。(DataNode失败的时候,需要平衡DataNode的存储利用率的时候,需要平衡DataNode数据交互压力的时候)

这里先说一下,使用HDFSbalancer命令,可以配置一个Threshold来平衡每一个DataNode磁盘利用率。例如设置了Threshold10%,那么执行balancer命令的时候,首先统计所有DataNode的磁盘利用率的均值,然后判断如果某一个DataNode的磁盘利用率超过这个均值Threshold以上,那么将会把这个DataNodeblock转移到磁盘利用率低的DataNode,这对于新节点的加入来说十分有用。

<o:p> </o:p>

4.  数据交验。采用CRC32作数据交验。在文件Block写入的时候除了写入数据还会写入交验信息,在读取的时候需要交验后再读入。

5.  NameNode是单点。如果失败的话,任务处理信息将会纪录在本地文件系统和远端的文件系统中。

6.  数据管道性的写入。

当客户端要写入文件到DataNode上,首先客户端读取一个Block然后写到第一个DataNode上,然后由第一个DataNode传递到备份的DataNode上,一直到所有需要写入这个BlockNataNode都成功写入,客户端才会继续开始写下一个Block

7.  安全模式。

在分布式文件系统启动的时候,开始的时候会有安全模式,当分布式文件系统处于安全模式的情况下,文件系统中的内容不允许修改也不允许删除,直到安全模式结束。安全模式主要是为了系统启动的时候检查各个DataNode上数据块的有效性,同时根据策略必要的复制或者删除部分数据块。运行期通过命令也可以进入安全模式。在实践过程中,系统启动的时候去修改和删除文件也会有安全模式不允许修改的出错提示,只需要等待一会儿即可。

<o:p> </o:p>

       综合MapReduceHDFS来看Hadoop的结构:

 

 

<v:shape id="_x0000_i1027" type="#_x0000_t75" style="WIDTH: 415.5pt; HEIGHT: 207.75pt"><v:imagedata src="file:///C:\DOCUME~1\WENCHU~1.CEN\LOCALS~1\Temp\msohtmlclip1\01\clip_image005.emz" o:title=""></v:imagedata></v:shape>

3 Hadoop<o:p></o:p>

       Hadoop的系统中,会有一台Master,主要负责NameNode的工作以及JobTracker的工作。JobTracker是的主要职责就是启动,跟踪,调度各个Slave的任务执行。还会有多台Slave,每一台Slave通常具有DataNode的功能以及TaskTracker的工作。TaskTracker根据应用要求来结合本地数据执行Map任务以及Reduce

分享到:
评论

相关推荐

    分布式计算开源框架hadoop入门实践 高清完整中文版PDF下载

    ### 分布式计算开源框架Hadoop入门实践 #### 一、Hadoop简介及应用场景 **Hadoop** 是一个由 **Apache** 开源基金会维护的分布式计算框架,它为大规模数据处理提供了一种高效且可靠的方法。Hadoop 最初的设计灵感...

    分布式计算开源框架Hadoop入门实践.pdf

    分布式计算开源框架 Hadoop 入门实践 本文将从分布式计算开源框架 Hadoop 的角度,详细介绍 Hadoop 的基本概念、架构、组件及其在实际应用中的优势。 一、什么是 Hadoop? Hadoop 是 Apache 开源组织的一个分布式...

    分布式计算开源框架Hadoop入门实践.docx

    "分布式计算开源框架Hadoop入门实践" 分布式计算开源框架Hadoop是Apache开源组织的一个开源框架,旨在解决大规模数据处理问题。Hadoop框架中最核心的设计就是MapReduce和HDFS。MapReduce的思想是由Google的一篇论文...

    Hadoop进行分布式计算的入门资料

    Hadoop是Apache软件基金会开发的一个开源框架,专为大规模数据集处理而设计。它通过分布式存储和并行处理,使得企业能够高效地管理和分析海量数据。这篇入门资料将引导我们了解如何利用Hadoop进行分布式计算。 一、...

    多媒体通信教学材料1

    ── 分布式计算开源框架Hadoop入门实践(一) 在SIP项目设计的过程中,对于它庞大的日志在开始时就考虑使用任务分解的多线程处理模式来分析统计,在我从前写的文章《Tiger Concurrent Practice --日志分析并行分解...

    hadoop 入门

    InfoQ 提供的相关资料如"InfoQ Hadoop基本流程与应用开发"、"InfoQ 分布式计算开源框架Hadoop介绍"和"InfoQ Hadoop中的集群配置和使用技巧"将帮助你深入学习这些主题,为你的Hadoop之旅提供坚实的理论基础和实践指导...

    Hadoop_入门实践

    Hadoop 是一个开源的分布式计算框架,由Apache软件基金会维护,主要用于处理和存储大规模数据。它以其高容错性和可扩展性在大数据处理领域独树一帜,成为了众多企业和机构的核心技术之一。本资料《Hadoop 入门实践》...

    10钟理解云计算分布式大数据处理框架Hadoop

    Hadoop是一个开源框架,它允许在成百上千的廉价硬件构成的分布式存储环境中进行存储和处理超大数据集。Hadoop框架的核心有两部分:HDFS(Hadoop Distributed File System)和MapReduce。 HDFS是一种分布式文件系统...

    Hadoop入门到精通

    "Hadoop入门到精通"的学习资料旨在帮助初学者掌握这一强大的框架,并逐步晋升为专家。以下是对Hadoop及其相关概念的详细解读。 一、Hadoop概述 Hadoop是由Apache基金会开发的一个开源框架,主要用于处理和存储大...

    Hadoop入门实战手册 中文版)

    《Hadoop入门实战手册》是一本专为初学者设计的中文版指南,旨在帮助读者快速掌握Hadoop这一分布式计算框架的基础知识和实际操作技巧。Hadoop是Apache软件基金会的一个开源项目,它为海量数据处理提供了可靠的分布式...

    Hadoop入门教程

    在IT领域,Hadoop是一个非常重要的分布式计算框架,尤其在大数据处理方面占据着核心地位。本教程《Hadoop入门教程》旨在为初学者提供全面且深入的指导,帮助他们快速理解并掌握Hadoop的基本概念、架构及应用。教程由...

Global site tag (gtag.js) - Google Analytics