`
nlslzf
  • 浏览: 1046504 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Hadoop-- 海量文件的分布式计算处理方案

阅读更多

http://blog.csdn.net/calvinxiu/archive/2007/02/09/1506112.aspx
Hadoop 是Google MapReduce的一个Java实现。MapReduce是一种简化的分布式编程模式,让程序自动分布到一个由普通机器组成的超大集群上并发执行。就如同java程序员可以不考虑内存泄露一样, MapReduce的run-time系统会解决输入数据的分布细节,跨越机器集群的程序执行调度,处理机器的失效,并且管理机器之间的通讯请求。这样的模式允许程序员可以不需要有什么并发处理或者分布式系统的经验,就可以处理超大的分布式系统得资源。

    一、概论
    作为Hadoop程序员,他要做的事情就是:
    1、定义Mapper,处理输入的Key-Value对,输出中间结果。
    2、定义Reducer,可选,对中间结果进行规约,输出最终结果。
    3、定义InputFormat 和OutputFormat,可选,InputFormat将每行输入文件的内容转换为Java类供Mapper函数使用,不定义时默认为String。
    4、定义main函数,在里面定义一个Job并运行它。
  

    然后的事情就交给系统了。
    1.基本概念:Hadoop的HDFS实现了google的GFS文件系统,NameNode作为文件系统的负责调度运行在master,DataNode运行在每个机器上。同时Hadoop实现了Google的MapReduce,JobTracker作为MapReduce的总调度运行在master,TaskTracker则运行在每个机器上执行Task。

    2.main()函数,创建JobConf,定义Mapper,Reducer,Input/OutputFormat 和输入输出文件目录,最后把Job提交給JobTracker,等待Job结束。

    3.JobTracker,创建一个InputFormat的实例,调用它的getSplits()方法,把输入目录的文件拆分成FileSplist作为Mapper task 的输入,生成Mapper task加入Queue。

    4.TaskTracker 向 JobTracker索求下一个Map/Reduce。
     
     Mapper Task先从InputFormat创建RecordReader,循环读入FileSplits的内容生成Key与Value,传给Mapper函数,处理完后中间结果写成SequenceFile.
     Reducer Task 从运行Mapper的TaskTracker的Jetty上使用http协议获取所需的中间内容(33%),Sort/Merge后(66%),执行Reducer函数,最后按照OutputFormat写入结果目录。

      TaskTracker 每10秒向JobTracker报告一次运行情况,每完成一个Task10秒后,就会向JobTracker索求下一个Task。

      Nutch项目的全部数据处理都构建在Hadoop之上,详见Scalable Computing with Hadoop。


    二、程序员编写的代码
    我们做一个简单的分布式的Grep,简单对输入文件进行逐行的正则匹配,如果符合就将该行打印到输出文件。因为是简单的全部输出,所以我们只要写Mapper函数,不用写Reducer函数,也不用定义Input/Output Format。

package  demo.hadoop

public   class  HadoopGrep {

  public   static   class  RegMapper  extends  MapReduceBase  implements  Mapper {

   private  Pattern pattern;

   public   void  configure(JobConf job) {
   pattern  =  Pattern.compile(job.get( " mapred.mapper.regex " ));
  }

   public   void  map(WritableComparable key, Writable value, OutputCollector output, Reporter reporter)
     throws  IOException {
   String text  =  ((Text) value).toString();
   Matcher matcher  =  pattern.matcher(text);
    if  (matcher.find()) {
    output.collect(key, value);
   }
  }
}

  private  HadoopGrep () {
}  //  singleton

  public   static   void  main(String[] args)  throws  Exception {
 
  JobConf grepJob  =   new  JobConf(HadoopGrep. class );
  grepJob.setJobName( " grep-search " );
  grepJob.set( " mapred.mapper.regex " , args[ 2 ]);

  grepJob.setInputPath( new  Path(args[ 0 ]));
  grepJob.setOutputPath( new  Path(args[ 1 ]));
  grepJob.setMapperClass(RegMapper. class );
  grepJob.setReducerClass(IdentityReducer. class );
     
  JobClient.runJob(grepJob);
}
}
        RegMapper类的configure()函数接受由main函数传入的查找字符串,map() 函数进行正则匹配,key是行数,value是文件行的内容,符合的文件行放入中间结果。
        main()函数定义由命令行参数传入的输入输出目录和匹配字符串,Mapper函数为RegMapper类,Reduce函数是什么都不做,直接把中间结果输出到最终结果的的IdentityReducer类,运行Job。


        整个代码非常简单,丝毫没有分布式编程的任何细节。


       三.运行Hadoop程序
        Hadoop这方面的文档写得不全面,综合参考GettingStartedWithHadoop 与Nutch Hadoop Tutorial 两篇后,再碰了很多钉子才终于完整的跑起来了,记录如下:     

3.1 local运行模式

       完全不进行任何分布式计算,不动用任何namenode,datanode的做法,适合一开始做调试代码。
       解压hadoop,其中conf目录是配置目录,hadoop的配置文件在hadoop-default.xml,如果要修改配置,不是直接修改该文件,而是修改hadoop-site.xml,将该属性在hadoop-site.xml里重新赋值。
       hadoop-default.xml的默认配置已经是local运行,不用任何修改,配置目录里唯一必须修改的是hadoop-env.sh 里JAVA_HOME的位置。


       将编译好的HadoopGrep与RegMapper.class 放入hadoop/build/classes/demo/hadoop/目录 找一个比较大的log文件放入一个目录,然后运行

       hadoop / bin / hadoop demo.hadoop.HadoopGrep log文件所在目录 任意的输出目录 grep的字符串

     查看输出目录的结果,查看hadoop/logs/里的运行日志。 
     在重新运行前,先删掉输出目录。


3.2 单机集群运行模式

       现在来搞一下只有单机的集群.假设以完成3.1中的设置,本机名为hadoopserver
       第1步.    然后修改hadoop-site.xml ,加入如下内容:

< property >
   < name > fs.default.name </ name >
   < value > hadoopserver:9000 </ value >
</ property >
< property >
   < name > mapred.job.tracker </ name >
   < value > hadoopserver:9001 </ value >
</ property >
< property >
   < name > dfs.replication </ name >
   < value > 1 </ value >
</ property >

    从此就将运行从local文件系统转向了hadoop的hdfs系统,mapreduce的jobtracker也从local的进程内操作变成了分布式的任务系统,9000,9001两个端口号是随便选择的两个空余端口号。
 
  另外,如果你的/tmp目录不够大,可能还要修改hadoop.tmp.dir属性。


  第2步. 增加ssh不输入密码即可登陆。

    因为Hadoop需要不用输入密码的ssh来进行调度,在不su的状态下,在自己的home目录运行ssh-keygen -t rsa ,然后一路回车生成密钥,再进入.ssh目录,cp id_rsa.pub authorized_keys
    详细可以man 一下ssh, 此时执行ssh hadoopserver,不需要输入任何密码就能进入了。

  3.格式化namenode,执行
  bin/hadoop namenode -format

  4.启动Hadoop
     执行hadoop/bin/start-all.sh, 在本机启动namenode,datanode,jobtracker,tasktracker
 
  5.现在将待查找的log文件放入hdfs,。
     执行hadoop/bin/hadoop dfs 可以看到它所支持的文件操作指令。
     执行hadoop/bin/hadoop dfs put log文件所在目录 in ,则log文件目录已放入hdfs的/user/user-name/in 目录中

  6.现在来执行Grep操作
      hadoop/bin/hadoop demo.hadoop.HadoopGrep in out
      查看hadoop/logs/里的运行日志,重新执行前。运行hadoop/bin/hadoop dfs rmr out 删除out目录。

  7.运行hadoop/bin/stop-all.sh 结束

  3.3 集群运行模式
  假设已执行完3.2的配置,假设第2台机器名是hadoopserver2
  1.创建与hadoopserver同样的执行用户,将hadoop解压到相同的目录。

  2.同样的修改haoop-env.sh中的JAVA_HOME 及修改与3.2同样的hadoop-site.xml

  3. 将hadoopserver中的/home/username/.ssh/authorized_keys 复制到hadoopserver2,保证hadoopserver可以无需密码登陆hadoopserver2
     scp /home/username/.ssh/authorized_keys  username@hadoopserver2:/home/username/.ssh/authorized_keys

  4.修改hadoop-server的hadoop/conf/slaves文件, 增加集群的节点,将localhost改为
    hadoop-server
    hadoop-server2

  5.在hadoop-server执行hadoop/bin/start-all.sh
   将会在hadoop-server启动namenode,datanode,jobtracker,tasktracker
   在hadoop-server2启动datanode 和tasktracker
 
  6.现在来执行Grep操作
     hadoop/bin/hadoop demo.hadoop.HadoopGrep in out
    重新执行前,运行hadoop/bin/hadoop dfs rmr out 删除out目录

  7.运行hadoop/bin/stop-all.sh 结束。
  

四、效率
    经测试,Hadoop并不是万用灵丹,很取决于文件的大小和数量,处理的复杂度以及群集机器的数量,相连的带宽,当以上四者并不大时,hadoop优势并不明显。
    比如,不用hadoop用java写的简单grep函数处理100M的log文件只要4秒,用了hadoop local的方式运行是14秒,用了hadoop单机集群的方式是30秒,用双机集群10M网口的话更慢,慢到不好意思说出来的地步。
分享到:
评论

相关推荐

    Hadoop-海量文件的分布式计算处理方案.docx

    总结来说,Hadoop通过HDFS和MapReduce为处理海量文件提供了高效的分布式计算解决方案。Hadoop的易用性使得开发者即使没有并发或分布式系统经验,也能轻松处理大规模数据处理任务。此外,Hadoop还广泛应用于数据挖掘...

    hadoop-2.7.1.tar.gz.zip

    Hadoop是一个开源的分布式计算框架,由Apache基金会开发,它主要设计用于处理和存储大量数据。这个名为“hadoop-2.7.1.tar.gz.zip”的文件包含了Hadoop的2.7.1版本,这是一个非常重要的里程碑,因为它包含了对Hadoop...

    hadoop-2.7.7.zip(windows 用)

    Hadoop是Apache软件基金会开发的一个开源分布式计算框架,主要用于处理和存储海量数据。这个压缩包“hadoop-2.7.7.zip”是专为Windows 7系统设计的Hadoop版本,使得用户在Windows环境下也能搭建本地的大数据处理环境...

    hadoop-2.4.1版本大数据

    Hadoop是大数据处理的重要工具,它提供了一种经济高效的方式处理海量数据。随着大数据应用场景的多样化,Hadoop及其生态系统不断发展壮大,为数据分析、机器学习、人工智能等领域提供了强有力的支持。 总结,Hadoop...

    hadoop-2.6.0-cdh5.14.2.tar.gz

    Hadoop是Apache软件基金会开发的一个开源分布式计算框架,它的核心设计思想是分布式存储和并行处理,能够处理和存储海量数据。"hadoop-2.6.0-cdh5.14.2.tar.gz" 是一个针对Hadoop的特定版本的压缩包,包含了在CDH...

    hadoop-common-2.6.0-bin-master

    - 数据存储:通过HDFS,Hadoop Common提供了海量数据的可靠存储解决方案。 - 并行计算:通过MapReduce,数据可以在多台机器上并行处理,显著提高了处理速度。 - 分布式资源管理:YARN负责调度和管理计算资源,...

    hadoop-3.2.2.zip

    Hadoop是Apache软件基金会开发的一个开源分布式计算框架,主要处理和存储海量数据。这个压缩包“hadoop-3.2.2.zip”包含了Hadoop 3.2.2版本的所有组件和相关文件,这是一个重要的大数据处理工具,尤其在Java编程环境...

    hadoop-lzo-0.4.15.tar.gz

    在大数据处理领域,Hadoop是不可或缺的核心组件,它为海量数据的存储和计算提供了分布式解决方案。而LZO(Lempel-Ziv-Oberhumer)是一种高效的无损数据压缩算法,广泛应用于日志分析、数据备份等领域。当我们谈论...

    hadoop-eclipse-plugin-2.7.3.zip

    HDFS提供了分布式存储的功能,而MapReduce则负责分布式计算。这两个组件的结合使得Hadoop能够处理海量的数据。 【描述】中的"hadoop"一词,暗示了这个压缩包与Hadoop生态系统紧密相关。Hadoop不仅仅是一个简单的...

    hadoop-2.6.0-bin-master-PC端远程调用HDFS

    在IT行业中,分布式存储系统Hadoop的HDFS(Hadoop Distributed File System)是大数据处理的核心组件之一。HDFS提供高容错性和可扩展性,使得海量数据能够在多台普通计算机上进行存储和处理。在Windows环境下,进行...

    hadoop-2.0.0-cdh4.2.1.rar

    Hadoop,这个在大数据领域中具有里程碑意义的名字,代表着分布式计算的革新力量。Hadoop 2.0.0-cdh4.2.1是Cloudera公司发布的一个稳定版本,它基于Apache Hadoop的核心组件,提供了更为完善的生态系统,为海量数据...

    Hadoop-0.20.2

    总的来说,Hadoop-0.20.2是大数据处理领域的一个里程碑,它为企业和研究机构提供了强大且经济的解决方案,应对海量数据的存储和分析挑战。通过深入理解和应用这一版本,开发者和数据工程师能够构建出高效、可靠的...

    hadoop-3.1.2-src.tar.gz

    Hadoop是Apache基金会开源的一个分布式计算框架,它的出现极大地推动了大数据处理的发展。本文将深入解析Hadoop 3.1.2版本的源码,揭示其核心原理,并探讨在实际应用中的各种可能性。 一、Hadoop概述 Hadoop由两个...

    无jar版windows平台hadoop-2.6.1.zip

    Hadoop是Apache软件基金会开发的一个开源分布式计算框架,它的核心设计是存储和处理海量数据的能力。这个"无jar版windows平台hadoop-2.6.1.zip"文件是为了方便Windows用户,尤其是初学者快速上手Hadoop而准备的。在...

    基于Hadoop架构的分布式计算和存储技术及其应用.pdf

    而MapReduce是Hadoop的另一个核心组件,它是一种分布式计算模型,通过Map(映射)和Reduce(归约)两个阶段对大规模数据集进行处理。Map阶段将输入数据分割成独立的块,并进行并行处理,产生一系列中间结果。Reduce...

    Hadoop-Installing.rar_hadoop_hadoop安装_分布式

    Hadoop是Apache软件基金会的一个开源项目,它是一个用于处理和存储大量数据的分布式计算框架。Hadoop的核心组件包括Hadoop Distributed File System (HDFS) 和 MapReduce,这两个组件共同构成了一个可靠的、可扩展的...

    hadoop-2.6.0-cdh5.16.2 for windows

    在大数据处理领域,Hadoop是一个不可或缺的名字,它为海量数据的存储和处理提供了分布式计算框架。本篇文章将深入探讨专为Windows平台编译的Hadoop 2.6.0-cdh5.16.2版本,以及如何利用这个版本进行测试和开发工作。 ...

    hadoop-2.8.0winutils.rar

    Hadoop是一款开源的分布式计算框架,主要用于处理和存储海量数据。然而,Hadoop最初是为Linux操作系统设计的,对于Windows用户来说,配置和使用可能会遇到一些挑战。"hadoop-2.8.0winutils.rar"就是针对这个问题提供...

    hadoop-2.6.0-cdh5.14.0.tar.gz for linux 支持snappy

    Hadoop是Apache软件基金会开发的一个开源分布式计算框架,它允许在大规模集群上处理和存储海量数据。CDH(Cloudera Distribution Including Apache Hadoop)是由Cloudera公司提供的一种商业化Hadoop发行版,包含了...

Global site tag (gtag.js) - Google Analytics