`

hadoop 学习历程二

 
阅读更多

hadoop生态圈:

Common 一组分布式文件系统和通用i/o的组件接口(序列化,java rpc 和持久化数据结构)

Avro 一种支持高效,跨语言的RPC以及永久存储数据的序列化系统

MapReduce 分布式数据处理模型和执行环境,运行于大型商用机集群

HDFS 分布式文件系统 运行于大型商用机集群

Pig 一种数据流语言和运行环境,用以检索非常大的数据集。比如运行在MapReduce和HDFS集群上

Hive 一个分布式,按列存储数据库。Hive管理HDFS中存储的数据,并提供基于sql的查询语言(运行时引擎翻译成MapReduce作业)用以查询数据。

Hbase 一个分布式,按列存储数据库。Hbase使用HDFS作为底层存储,同时支持MapReduce的批量式计算和点查询(随机读取)

Zookeeper 一个分布式、可用性高的协调服务。Zookeeper提供了分布式锁之类的基本服务用于构建分布式应用

Sqoop 在数据库和HDFS之间高效传输数据的工具

-----------------------------------------------------------------

hadoop  2.0.3 和网上介绍的版本有点不一样

它的config文件是在etx里面。startall 是在sbin里面

 

 

分享到:
评论

相关推荐

    Hadoop的前世今生 英文

    《Hadoop的前世今生》是一份深入探讨Hadoop发展历程的英文文档,旨在揭示这款开源大数据处理框架的起源、发展及现状。...通过学习Hadoop的历史,我们可以更好地理解当前大数据技术的格局,并预见未来可能的趋势。

    Hadoop权威指南第四版和第二版

    总的来说,《Hadoop权威指南》第二版和第四版都是学习Hadoop及其生态系统的重要参考资料。第二版适合初学者入门,了解Hadoop的基础概念和基本操作;而第四版则更深入地探讨了Hadoop的演进和新的技术趋势,对有经验的...

    hadoop技术全套图书

    《Hadoop技术全套图书》是全面了解和深入学习Hadoop技术的重要资料集合,涵盖了Hadoop在实际应用中的各个层面,包括其发展历程、核心组件、分布式系统原理以及在不同环境下的安装与配置。以下是对这些书籍和教程的...

    \"Hadoop在ebay中的使用历程\"分享总结

    2. **欺诈检测**:利用Hadoop对大量的交易数据进行实时分析,帮助识别潜在的欺诈行为,保障买卖双方的权益。 3. **库存管理**:通过对销售数据的深度挖掘,eBay可以更准确地预测库存需求,减少库存积压,提高运营...

    Hadoop官方教案

    在这一课中,我们将了解Hadoop的起源、发展历程以及它在大数据处理中的重要地位。Hadoop是一个开源框架,由Apache软件基金会维护,主要用于存储和处理大规模数据集。它的核心组件包括HDFS(Hadoop分布式文件系统)和...

    Hadoop在雅虎的应用

    #### 二、Hadoop发展历程及生态系统 **1. 发展历程** - **2004-2005年:**Hadoop最初作为Apache Lucene项目的一部分进行原型开发。 - **2006年1月:**Hadoop正式成为Lucene的一个子项目。 - **2008年1月:**Hadoop...

    hadoop起源

    通过学习“Hadoop的起源”,我们可以更好地理解大数据处理的历史脉络,掌握Hadoop的核心原理,从而在数据分析和挖掘领域发挥出更大的价值。课程大纲中的详细内容将涵盖Hadoop的诞生背景、关键组件的工作原理、生态...

    hadoop - Hadoop2 Quick-Start Guide

    - **总结**:本章节全面介绍了Hadoop的基本概念和发展历程,为读者理解Hadoop在大数据处理领域的重要性奠定了基础。 - **附加资源**:为了进一步学习和深入理解Hadoop及其生态系统,作者推荐了一些书籍、在线课程和...

    hadoop-2.2.0 64位

    Hadoop-2.2.0是这个项目的一个重要版本,它在Hadoop的发展历程中扮演着关键的角色。此版本为64位版本,意味着它可以充分利用64位操作系统的内存资源,处理大数据集的能力更加强大。 在Hadoop-2.2.0中,主要包含了...

    2_Hadoop与Spark简介.pptx

    Hadoop的发展历程可以分为1.x和2.x两个阶段。在1.x时代,Hadoop架构主要包括HDFS和MapReduce。而在2.x阶段,引入了YARN(Yet Another Resource Negotiator),作为一个资源管理和调度器,使得Hadoop可以支持更多的...

    [Hadoop权威指南(第2版)].(Hadoop:The.Definitive.Guide).文字版.pdf

    - **Hadoop的历史与发展**:回顾了Hadoop项目的发展历程及其背后的故事。 - **Hadoop生态系统**:介绍了围绕Hadoop构建的一系列工具和服务,以及它们如何协同工作来处理大规模数据集。 ##### 第二部分:MapReduce...

    hadoop指南2 Hadoop The Definitive Guide 2nd Edition

    ### Hadoop 指南第二版重要知识点梳理 ...综上所述,《Hadoop权威指南》第二版是一本全面介绍了Hadoop核心技术和生态系统的专业书籍,对于想要深入了解和学习Hadoop的读者来说是非常有价值的资源。

    Hadoop入门手册

    2. **Hadoop生态系统**:除了核心的Hadoop组件,还有许多相关的项目和工具,如Hive(数据仓库工具)、Pig(数据分析平台)、HBase(NoSQL数据库)、Zookeeper(分布式协调服务)等,它们共同构建了丰富的Hadoop生态...

    hadoop1.0.1董西成书籍配套版本

    同时,通过对比不同版本的源码,可以洞察Hadoop的发展历程和改进之处。 总之,董西成书籍配套的hadoop-1.0.1源码对于想要深入了解Hadoop工作原理的学习者来说是一份宝贵的资源。它不仅提供了理论知识的补充,更提供...

    Hadoop阶段初识学习笔记

    #### 二、Hadoop的核心功能 1. **分布式数据存储**:Hadoop通过其核心组件HDFS(Hadoop Distributed File System)提供分布式存储能力,能够将大量的数据分散存储在多台计算机上,从而实现高可靠性和高性能的数据...

    最新Apache Hadoop-3.0.0 百度云下载

    总结来说,Apache Hadoop 3.0.0版本是Hadoop发展历程中的一个重要里程碑,它的多项改进和新特性显著提升了大数据处理的效率、稳定性和安全性,为企业和开发者提供了更为强大的大数据处理平台。对于想要下载和学习...

    hadoop-2.7.1.tar.gz

    `hadoop-2.7.1.tar.gz` 是一个包含了Hadoop 2.7.1版本源码或二进制文件的压缩包。这个版本在Hadoop的发展历程中是一个重要的里程碑,因为它引入了许多改进和新特性,旨在提升性能、稳定性和易用性。 1. **Hadoop...

    阿里云Hadoop在云上的最佳实践

    2. **2013年**:内部迁移至ODPS,并构建了国内最大的Hadoop集群之一。 3. **2014年**:对外提供Hadoop能力。 4. **2015年**:登月计划将所有在线业务迁移至ODPS平台。 5. 阿里云Hadoop生态涉及到的技术组件包括EMR、...

Global site tag (gtag.js) - Google Analytics