`

hadoop简介

阅读更多

 

Hadoop的源起——Lucene

l Doug Cutting开创的开源软件,用java书写代码,实现与Google类似的全文搜索功能,它提供了全文检索引擎的架构,包括完整的查询引擎和索引引擎

早期发布在个人网站和SourceForge,2001年年底成为apache软件基金会jakarta的一个子项目

Lucene的目的是为软件开发人员提供一个简单易用的工具包,以方便的在目标系统中实现全文检索的功能,或者是以此为基础建立起完整的全文检索引擎

对于大数量的场景,Lucene面对与Google同样的困难。迫使Doug Cutting学习和模仿Google解决这些问题的办法

一个微缩版:Nutch

 

从lucene到nutch,从nutch到hadoop

2003-2004年,Google公开了部分GFS和Mapreduce思想的细节,以此为基础Doug Cutting等人用了2年业余时间实现了DFS和Mapreduce机制,使Nutch性能飙升

Yahoo招安Doug Cutting及其项目

Hadoop 于 2005 年秋天作为 Lucene的子项目 Nutch的 一部分正式引入Apache基金会。2006 年 3 月份,Map-Reduce 和 Nutch Distributed File System (NDFS) 分别被纳入称为 Hadoop 的项目中

名字来源于Doug Cutting儿子的玩具大象

 

目前Hadoop达到的高度

 

l实现云计算的事实标准开源软件

l包含数十个具有强大生命力的子项目

  

l已经能在数千节点上运行,处理数据量和排序时间不断打破世界纪录

 

本文链接:hadoop简介,本文由领悟书生整理发表,转载请注明出处http://www.656463.com/article/375

分享到:
评论
2 楼 aaron7524 2013-06-08  
不要意思 发错了
1 楼 aaron7524 2013-06-08  
         http://www.iteye.com/images/smiles/icon_lol.gif
http://www.iteye.com/images/smiles/icon_lol.gif
http://www.iteye.com/images/smiles/icon_lol.gif
http://www.iteye.com/images/smiles/icon_lol.gif
http://www.iteye.com/images/smiles/icon_lol.gif
http://www.iteye.com/images/smiles/icon_lol.gif
http://www.iteye.com/images/smiles/icon_lol.gif

相关推荐

    hadoop简介Word版

    ### Hadoop:分布式系统基础架构概览 #### Hadoop的核心概念与起源 Hadoop是由Apache基金会开发的一款分布式系统基础架构,旨在使用户无需深入了解分布式系统的底层复杂性即可开发分布式程序,充分利用集群的强大...

    Hadoop简介以及配置文件

    ### Hadoop简介与核心特性 #### 一、大数据与Hadoop背景 自“大数据”这一概念诞生以来,它已经在过去十多年间经历了飞速的发展。众多机构和组织试图对其定义进行阐述,例如研究机构Gartner将其定义为需要采用新型...

    大数据及Hadoop简介.docx

    1. Hadoop简介:Hadoop的核心理念是通过分布式文件系统(HDFS)和分布式计算框架(MapReduce)实现数据的分散存储和并行处理,以提高处理效率。Hadoop的诞生源于Google的GFS和MapReduce论文,旨在解决海量数据处理的...

    Chapter11_Hadoop简介.pdf

    【Hadoop 简介】 Hadoop 是一个开源的分布式计算框架,由Apache软件基金会维护,是当前大数据处理领域的重要工具。它最初受到Google在2004年提出的MapReduce和GFS(Google File System)的启发,由Doug Cutting和...

    福建师范大学精品大数据导论课程系列 (5.2.1)--4.1.2 hadoop简介之二.rar

    【标题】:“福建师范大学精品大数据导论课程系列 (5.2.1)--4.1.2 hadoop简介之二.rar” 提供的是一份关于Hadoop的深入介绍,特别是针对Hadoop的基础概念和核心组件的讲解。Hadoop是Apache软件基金会开发的一个开源...

    HADOOP简介

    ### HADOOP简介 #### Hadoop组成概述 Hadoop是一个开源软件框架,旨在为大型数据集提供分布式存储和计算能力。Hadoop的核心组件包括Hadoop分布式文件系统(HDFS)和MapReduce编程模型。 - **Hadoop分布式文件系统...

    hadoop简介ppt

    Hadoop简介 Hadoop 是一个由 Apache 软件基金会开发的开源大数据处理框架,主要用于存储和处理大规模数据。Hadoop 的核心组件包括 HDFS、MapReduce、HBase 和 ZooKeeper。 1. HDFS(Hadoop Distributed File ...

    hadoop介绍

    #### 一、Hadoop简介 **Hadoop** 是一个能够对大量数据进行分布式处理的软件框架,它最初由Nutch和Lucene之父Doug Cutting于2006年创建。有趣的是,“Hadoop”这个名字来源于Doug Cutting的儿子对他玩具大象的一种...

    Hadoop简介及Apache Hadoop三种搭建方式

    Apache Hadoop 是一个开源的分布式计算框架,专为处理和存储大规模数据集而设计。它由Apache软件基金会维护,是大数据处理领域中的核心组件。Hadoop 的主要特点是高容错性和可扩展性,使得它能够处理PB级别的数据。...

    Hadoop简介

    ### Hadoop概述及核心组件解析 #### Hadoop的定义与特点 Hadoop作为一个开源框架,主要面向大规模数据处理任务,特别是在离线分析场景下表现出色。它不是为在线事务处理设计的,即不适合处理那些需要频繁进行记录级...

    一、Hadoop简介 和 Hadoop结构介绍

    Hadoop是现阶段数据开发的基础,Hadoop通常是指一个更广泛的概念—-Hadoop生态圈(基于或关于Hadoop的大数据开发的各种软件环境) 是Apache公司使用Java语言编写的开源的,分布式系统的基础架构 分布式就是,当储存...

    云计算简介,Hadoop简介,云计算环境下信息安全问题

    - **计算模型**:为解决非专业用户难以有效利用分布式计算资源的问题,云计算提供高度抽象的计算模型,其中Hadoop是一个典型代表。 ### Hadoop:大数据处理的开源框架 Hadoop是一种开放源代码的分布式计算框架,...

    hadoop简介与安装

    简要介绍了hadoop的发展历程、原理、特征以及基于hadoop的分布式系统的安装方法。

    Hadoop-0.21.0分布式集群配置

    Hadoop-0.21.0分布式集群配置.doc

    eclipse hadoop2 插件

    1. **Hadoop简介**:Hadoop是一个开源框架,主要用于处理和存储大量数据。它的核心组件包括Hadoop Distributed File System (HDFS)和MapReduce,这两个组件共同实现了分布式计算。 2. **Eclipse IDE**:Eclipse是一...

    福建师范大学精品大数据导论课程系列 (5.1.1)--4.1.1 hadoop简介之一.rar

    在本课程资料中,主题聚焦于“大数据导论”,特别是Hadoop这一核心组件的初步介绍。Hadoop是Apache软件基金会开发的一个开源框架,主要用于处理和存储海量数据。它以其分布式计算模式,为大数据分析提供了强大的支持...

Global site tag (gtag.js) - Google Analytics