HDFS的局限性(HDFS只有一个active的namenode):
1. 在name中存储所有的元数据(metadata),因此单个namenode所能存储的对象(块+文件)数据受到namenode所在JVM的heap size的限制。
2. 整个HDFS文件系统的吞吐量受限于单个namenode的吞吐量
3. 无法隔离namespace
Federation HDFS 与 HDFS的区别
HDFS只有一个name space, 它使用全部的块。 而Federation HDFS 中有多个独立的namespace,每个命名空间使用一个block Pool
Bolck Pool : 维护单个命名空间的所有block。Data node是一个物理概念,而block pool是一个重新将block划分的逻辑概念。同一个DataNode可以存储 着属于多个blocknode的多个块。block允许一个命名空间在不通知其它命名空间的情况下为一个新的block创建blockID。同时,一个namenode失效不会影响旗下的DataNode为其它namenode服务。
Federation HDFS 架构图
Federation HDFS HA架构图
其中 NN1 NN3 属于同一个namenode, NN2 NN4 属于同一个namenode
参考:
http://www.jikexueyuan.com/course/2570.html
相关推荐
**一、Hadoop HA简介** Hadoop HA是为了解决单点故障问题,通过引入NameNode的热备机制,确保即使主NameNode故障,系统仍能正常运行。它通常由两个NameNode组成:一个活动NameNode (Active NN) 和一个备用NameNode ...
简介Prometheus Federation 允许一台 Prometheus Server 从另一台 Prometheus Server 刮取选定的时间序列资
7. `README.md`:项目简介和开发指南。 在开发过程中,API网关可能会使用如下技术栈: - Apollo Server:作为GraphQL服务器的实现,它负责处理GraphQL查询和订阅。 - GraphQL Subscriptions:如果项目支持实时数据...
同时,HDFS的HDFS Federation和HDFS High Availability特性进一步增强了其可扩展性和可用性。 在实际应用中,HDFS被广泛用于大数据分析、日志处理、视频流媒体服务等领域。例如,Google的GFS(Google File System)...
内容简介 本教程针对有一定Hadoop基础的学员,深入讲解如下方面的内容: 1、Hadoop2.0高阶运维,包括Hadoop节点增加删除、HDFS和YARN的HA实现, HDFS Federation实现等 2、搭建本地Yum部署CDH5的重要组件和优化配置 ...
例如,中国香港的联系方式为Hong Kong General Chamber of Commerce,印度则是Federation of Indian Chambers of Commerce and Industry,伊朗是Iran Chamber of Commerce, Industries and Mines,以色列是...
NSX 的前世今生 — V2T 的迁移方案简介; NSX 分布式 IDSIPS 方案介绍及演示; NSX 企业云安全应用场景; NSX 在 VMware Horizon 中的应用; NSX Intelligence 分布式策略分析引擎介绍及演示; NSX-T 路由架构; ...
中国计算机学会(China Computer Federation, CCF)是致力于推动中国计算机科学和技术领域发展的权威组织之一。为了促进国内外学术交流及提升国内研究者在国际舞台上的竞争力,CCF定期发布了一系列推荐的国际学术...
* Oracle Identity Federation Oracle Identity Manager 的优势包括: * 高度灵活的体系结构,可以处理复杂的IT和业务要求。 * 高度扩展性,可以轻松地集成到现有的IT环境中。 * 高度安全性,提供强大的身份验证...
### SAML 2.0 简介及关键技术解析 #### 安全断言标记语言 (SAML 2.0) 安全断言标记语言(Security Assertion Markup Language, SAML)是一种用于交换认证与授权数据的标准协议,特别是适用于跨域单点登录(Single ...
中国计算机学会(China Computer Federation, CCF)发布的《中国计算机学会推荐国际学术会议和期刊目录》旨在为中国的计算机科学领域的学者提供权威的参考指南。该目录对国际上重要的学术会议和期刊进行了分类评级,...
中国计算机学会(Chinese Computer Federation, CCF)作为国内计算机领域的重要组织,每年都会发布一系列重要的国际学术会议和期刊目录,旨在为学者提供权威的学术资源指南。本次分析将基于给定的文件内容,即2015年...
这个认证项目由ITC(联合国贸易和发展会议与世界贸易组织联合设立的国际贸易中心)与中国物流与采购联合会(China Federation of Logistics & Purchasing, CFLP)合作推出,同时也得到了中国物流采购教育协会(China...
### 四、SAML简介 Security Assertion Markup Language (SAML)是一种用于交换认证和授权决策的XML标准。SAML使不同的安全域之间能够共享用户的身份信息,从而实现单点登录(Single Sign-On, SSO)功能。SAML包含...
- **HLA简介**:涵盖HLA的基本概念、历史和目的。 - **HLA组件**:详细解释了FOM、RTI、联邦和仿真器的角色。 - **HLA编程**:介绍如何使用HLA API编写仿真器代码。 - **时间管理**:讨论时间同步策略和时间协调。 -...
【Async-graphql简介】 Async-graphql是一个用Rust编程语言实现的异步GraphQL服务端库。这个库由孙黎(油条哥)发起并维护,旨在为开发者提供一个完全支持异步操作、严格遵循GraphQL规范、类型安全且性能优异的解决...