`

Federation 简介

 
阅读更多

 

HDFS的局限性(HDFS只有一个active的namenode):

1. 在name中存储所有的元数据(metadata),因此单个namenode所能存储的对象(块+文件)数据受到namenode所在JVM的heap size的限制。

2. 整个HDFS文件系统的吞吐量受限于单个namenode的吞吐量

3. 无法隔离namespace

 

Federation HDFS 与 HDFS的区别

HDFS只有一个name space, 它使用全部的块。 而Federation HDFS 中有多个独立的namespace,每个命名空间使用一个block Pool

Bolck Pool : 维护单个命名空间的所有block。Data node是一个物理概念,而block pool是一个重新将block划分的逻辑概念。同一个DataNode可以存储 着属于多个blocknode的多个块。block允许一个命名空间在不通知其它命名空间的情况下为一个新的block创建blockID。同时,一个namenode失效不会影响旗下的DataNode为其它namenode服务。

 

Federation HDFS 架构图



 

 

 Federation HDFS HA架构图


 其中 NN1 NN3 属于同一个namenode, NN2 NN4 属于同一个namenode

 

 

参考:

http://www.jikexueyuan.com/course/2570.html

  • 大小: 179.6 KB
  • 大小: 119.5 KB
分享到:
评论

相关推荐

    Hadoop2.5.1的HA+Federation的详细配置

    **一、Hadoop HA简介** Hadoop HA是为了解决单点故障问题,通过引入NameNode的热备机制,确保即使主NameNode故障,系统仍能正常运行。它通常由两个NameNode组成:一个活动NameNode (Active NN) 和一个备用NameNode ...

    wenwenxiong#book#prometheus联邦federation1

    简介Prometheus Federation 允许一台 Prometheus Server 从另一台 Prometheus Server 刮取选定的时间序列资

    api-gateway:API网关服务器,由Apollo Federation

    7. `README.md`:项目简介和开发指南。 在开发过程中,API网关可能会使用如下技术栈: - Apollo Server:作为GraphQL服务器的实现,它负责处理GraphQL查询和订阅。 - GraphQL Subscriptions:如果项目支持实时数据...

    Hadoop技术HDFS简介共10页.pdf.zip

    同时,HDFS的HDFS Federation和HDFS High Availability特性进一步增强了其可扩展性和可用性。 在实际应用中,HDFS被广泛用于大数据分析、日志处理、视频流媒体服务等领域。例如,Google的GFS(Google File System)...

    Cloudera Hadoop 5&Hadoop高阶管理及调优课程

    内容简介 本教程针对有一定Hadoop基础的学员,深入讲解如下方面的内容: 1、Hadoop2.0高阶运维,包括Hadoop节点增加删除、HDFS和YARN的HA实现, HDFS Federation实现等 2、搭建本地Yum部署CDH5的重要组件和优化配置 ...

    专题资料(2021-2022年)ATA单证册制度简介.doc

    例如,中国香港的联系方式为Hong Kong General Chamber of Commerce,印度则是Federation of Indian Chambers of Commerce and Industry,伊朗是Iran Chamber of Commerce, Industries and Mines,以色列是...

    VMworld 2020 China 线上大会技术资料(虚拟云网络).zip

    NSX 的前世今生 — V2T 的迁移方案简介; NSX 分布式 IDSIPS 方案介绍及演示; NSX 企业云安全应用场景; NSX 在 VMware Horizon 中的应用; NSX Intelligence 分布式策略分析引擎介绍及演示; NSX-T 路由架构; ...

    安徽省民间组织联合会简介.pptx

    联合会遵循非营利性的原则,其英文全称是ANHUI FEDERATION OF NON-PROFIT ORGANIZATION,缩写为AHFNPO。 联合会的宗旨是遵守国家的法律法规和道德风尚,通过组织、协调和提供服务,整合民间组织的力量,争取政府...

    中国计算机学会推荐国际学术刊物与会议

    中国计算机学会(China Computer Federation, CCF)是致力于推动中国计算机科学和技术领域发展的权威组织之一。为了促进国内外学术交流及提升国内研究者在国际舞台上的竞争力,CCF定期发布了一系列推荐的国际学术...

    oracle OIM简介

    * Oracle Identity Federation Oracle Identity Manager 的优势包括: * 高度灵活的体系结构,可以处理复杂的IT和业务要求。 * 高度扩展性,可以轻松地集成到现有的IT环境中。 * 高度安全性,提供强大的身份验证...

    SAML2.0 简介

    ### SAML 2.0 简介及关键技术解析 #### 安全断言标记语言 (SAML 2.0) 安全断言标记语言(Security Assertion Markup Language, SAML)是一种用于交换认证与授权数据的标准协议,特别是适用于跨域单点登录(Single ...

    中国计算机学会推荐国际学术会议和期刊目录-2022.pdf

    中国计算机学会(China Computer Federation, CCF)发布的《中国计算机学会推荐国际学术会议和期刊目录》旨在为中国的计算机科学领域的学者提供权威的参考指南。该目录对国际上重要的学术会议和期刊进行了分类评级,...

    CCF期刊会议表目录

    中国计算机学会(Chinese Computer Federation, CCF)作为国内计算机领域的重要组织,每年都会发布一系列重要的国际学术会议和期刊目录,旨在为学者提供权威的学术资源指南。本次分析将基于给定的文件内容,即2015年...

    专题资料(2021-2022年)ITC暨注册采购师认证介绍.doc

    这个认证项目由ITC(联合国贸易和发展会议与世界贸易组织联合设立的国际贸易中心)与中国物流与采购联合会(China Federation of Logistics & Purchasing, CFLP)合作推出,同时也得到了中国物流采购教育协会(China...

    WS-Security.pdf

    ### 四、SAML简介 Security Assertion Markup Language (SAML)是一种用于交换认证和授权决策的XML标准。SAML使不同的安全域之间能够共享用户的身份信息,从而实现单点登录(Single Sign-On, SSO)功能。SAML包含...

    HLA 教程 很详细 内容丰富

    - **HLA简介**:涵盖HLA的基本概念、历史和目的。 - **HLA组件**:详细解释了FOM、RTI、联邦和仿真器的角色。 - **HLA编程**:介绍如何使用HLA API编写仿真器代码。 - **时间管理**:讨论时间同步策略和时间协调。 -...

Global site tag (gtag.js) - Google Analytics