资讯频道 → 企业架构
阅读更多

0顶
1踩

企业架构

原创新闻 谷歌架构的转变：从单数据中心到故障转移系统，再到多宿主架构

2016-03-08 10:08 by 副主编 mengyidan1988 评论(0) 有6547人浏览
google 架构 数据中心

声明：ITeye资讯文章的版权属于ITeye网站所有，严禁任何网站转载本文，否则必将追究法律责任！




运行单数据中心的系统很有难度，那么设想一下切换到双数据中心吧，假设你需要对多个位于不同地理位置的数据中心提供支持。谷歌有一篇发人深思的优秀论文，其中对这一过程有所描述——“大规模高可用性：打造谷歌的广告数据基础设施”。

文中的主要观点是：在将单个数据中心切换到多个数据中心时，典型的故障转移架构在实践中效果并不太好。能够起到作用，使用较少资源就能提供高可用性和一致性的方法，是原生的多宿主/多重连接架构（natively multihomed architecture）：
引用

我们目前的方式是构建原生多宿主架构。在这样的系统中，多个数据中心会持续运作，并根据情况自发平衡不同数据中心的负载，同时还能以完全透明化的方式解决任意规模的数据中心停机。此外，按计划执行的数据中心停机与维护事件也是完全透明化的，这样就会将对运营系统造成的影响降到最低。在过去，要想完成停机与维护事件，需要付出大量人力将运营系统从一个数据中心迁移到另一个。

“多宿主”这种说法也许会令人费解，因为[urlhttps://en.wikipedia.org/wiki/Multihoming=""]多宿主[/url]这个词一般指的是一台电脑连接着多个网络。不过按照谷歌的规模，用这种说法描述连接着多个数据中心也是非常自然的。

谷歌构建了多个多宿主系统，以确保在出现数据中心级别的停机时，还能保持高可用性（99.99%到99.999%）与一致性，下面这些文章对这些系统进行了详细描述：F1 / Spanner：关系数据库；Photon：对多个连续数据流进行join的部署；Mesa：数据仓储。这些论文分别讨论了各系统所采用的方式，以及在构建多宿主系统时遇到的诸多挑战：全局状态同步、怎么设置检查点，以及可重复的输入与只执行一次的输出等。

为了保持可用性与一致性，系统受到了很大约束。这就凸显了谷歌持续在简化这些复杂系统，提高其易用性上付出的努力：
引用

多宿主系统的简单性对用户是极有价值的，没有多宿主系统的话，无论故障转移、系统恢复还是一致性问题，都是应用需要解决的问题。而借助多宿主系统，基础设施会处理这些麻烦的问题，应用开发者只要专注于自身应用即可，可用性和一致性有系统来保障。

在这篇论文中最大的惊喜就是：实际中，多宿主系统比故障转移系统所耗费的资源还要少：
引用

部署在3个数据中心之上的多宿主系统，总同步性能为稳定状态的20%，总资源占用为170%，远远小于故障转移系统所需的300%。

故障转移系统有什么问题？
引用

基于故障转移系统的方式并未真正实现高可用性，而且由于需要部署备用资源，会带来成本浪费。

以前我们在使用故障转移系统时，有很多不好的体验。由于非计划性停机很少见，故障转移系统多是后期才添加的功能，无法自动化执行，也没有经过很好的测试。很多时候，团队需要花费数日才能从停机中恢复，一个组件一个组件的上线，用自定义MapReduces之类的临时工具执行状态恢复，并在系统处理停机时的积压工作时，逐步执行优调。这些情况不仅让系统无法再进行扩展，还让团队由于所运行的关键任务系统太过复杂而承受了极大压力。

多宿主系统的工作原理是什么？
引用

相比之下，多宿主系统在设计之初就将运行多个数据中心作为核心设计属性，因此无需另外添加故障转移系统。多宿主系统一直保持多个数据中心运行。每个数据中心都在持续处理工作，同时各数据中心之间的负载会自动进行平衡。一旦某个数据中心的处理速度减缓，系统就会自动将一部分工作调整到速度较快的数据中心上去。一旦某个数据中心出现故障完全不可用，所有工作都会自动分发到其他数据中心上去。

只有持续的动态负载平衡，不再有故障转移的过程。多宿主系统通过实时同步的全局共享状态来协调数据中心之间的工作。所有关键的系统状态都有备份，以确保随时能从另一个数据中心的某个点重新开始工作，同时确保恰一次语义（exactly once semantics）。在出现数据中心级别的故障时，多宿主系统是唯一能够提供高可用性和完整一致性的系统。

在典型流系统中，事件处理基于用户交互来解决；同时，全世界范围内的多台数据中心会为用户提供流量服务和日志存储服务。日志收集服务会在全球范围内收集这些日志，并将其复制到两台或多台特定的日志数据中心上。每个日志数据中心都会保存完整的日志记录，并确保复制到某个数据中心中的所有事件都会（逐渐）复制到其他日志数据中心上。流处理系统运行在一个或多个日志数据中心之上，并处理所有事件。流处理系统所输出的内容通常会存储在全球范围内的一些复制系统中，这样从任何地方都能可靠地对输出执行消费。

在多宿主系统中，所有数据中心都会持续运行并处理事件，典型状况下会部署三台数据中心。在稳定状态下，这三台数据中心每个都能处理33%的流量。如果某台数据中心出现故障而停机，剩下的两台数据中心会分别承担50%的流量处理工作。


原文：Google’s Transition from Single Datacenter, to Failover, to a Native Multihomed Architecture
译者：孙薇
  • 大小: 40.4 KB
0
顶
1
踩
评论 共 0 条 请登录后发表评论

发表评论

您还没有登录,请您登录后再发表评论

相关推荐

  • 谷歌架构从故障转移系统到多宿主架构的转变

    谷歌架构从故障转移系统到多宿主架构的转变 运行单数据中心的系统难度很高，那么切换到双数据中心吧，如果你需要对多个位于不同地理位置的数据中心提供支持。谷歌有一篇发人深思的优秀论文，其中对这一过程有所描述...

  • Kubernetes、k8s从入门到实战

    同一个Pod内的多个容器之间：lo (localhost)，原理：一个Pod中的多个容器（容器部署的命名空间属于一致的）创建时都会注册到一个统一的Pause容器(根容器)，然后暴露出Pause容器IP、MAC、Port 所以Pod中的容器网络是...

  • k8s：概念以及搭建高可用集群

    一、k8s概念和架构 二、从零搭建k8s集群 1、基于客户端工具kubeadm 2、基于二进制包安装k8s 三、k8s核心概念 1 、pod 2 、Conttroller 3、Service ，Ingress 4、RABC 5、Helm 四、搭建集群监控平台系统 五、从零搭建...

  • 如何使用多数据中心提供数据

    原帖：http://highscalability.com/blog/2009/8/24/how-google-serves-data-from-multiple-datacenters.html ...为了避免数据中心成为单点错误节点，当一个数据中心出了严重问题的时候，能很快恢复提供正常服...

  • Google Interview University | 坚持完成这套学习手册，你就可以去 Google 面试了

    Google Interview University 一套完整的学习手册帮助自己准备 Google 的面试 原文地址：Google Interview University 原文作者：John Washam 译文出自：掘金翻译计划 译者：aleen42，Newton，bobmayuze，...

  • [译] Google Interview University 一套完整的学习手册帮助自己准备 Google 的面试

    [译] Google Interview University 一套完整的学习手册帮助自己准备 Google 的面试 十一七天乐，看池博的github，发现这个markdown，转过来一下 原链接：...

  • 如何成为一名Google工程师

    [译] Google Interview University 一套完整的学习手册帮助自己准备 Google 的面试 原文地址：Google Interview University 原文作者：John Washam 译文出自：掘金翻译计划 译者：Aleen，Newton，bobmayuze，...

  • Ubiq:A Scalable and Fault-tolerant Log Processing Infrastructure

    本文介绍Ubiq的架构，它是一个分布式系统，用于处理不断增长的日志文件，具有可扩展性、高可用、低延迟的特性。Ubiq框架容忍基础设施退化和数据中心级别的中断问题，无需人工干预。并且它支持exactly-once语义以将...

  • Restful Api （实现公司和员工管理系统）大佬杨旭

    1.MVC映射为API Model，它负责处理数据的逻辑； ...2.看 Program 这个类，主要还是创建了一个宿主，建立一个宿主，然后运行： public class Program { public static void Main(string[] args)

  • Google Interview University - 坚持完成这套学习手册，你就可以去 Google 面试了

    本文讲的是Google Interview University - 坚持完成这套学习手册，你就可以去 Google 面试了， 这是我为了从 web 开发者（自学、非计算机科学学位）蜕变至 Google 软件工程师所制定的计划，其内容历时数月。 这一...

  • 技术小白的Kubernetes学习自白

    技术小白的Kubernetes学习自白 Kubernetes 前言 历史 K8S组件 K8S的一些关键字解释 Borg BorgMaster scheduler Kubernetes基础概念 K8S架构 Service DNS服务器 Socket通信 DHCP DHCP和STATIC Pod Pod概念 自主式Pod ...

  • 面试应该的准备

    摘自... 目录 日常计划 必备知识 算法复杂度 / Big-O / 渐进分析法 数据结构 数组（Arrays） 链表（Linked Lists） ...更多的知识 二分查找（Binary search） 按位运算（Bi...

  • Kubernetes权威指南（上）

    port可以访问到某个service -nodePort nodePort是外部访问k8s集群中service的端口，通过nodeIP: nodePort可以从外部访问到某个service。 该端口号的范围是 kube-apiserver 的启动参数 –service-node-port-range...

  • 【Kubernetes】概述 & 搭建

    Kubernetes，简称K8S。一款开源、用于管理云平台中多个主机上的容器化的应用，Kubernetes的目标是让部署容器化的应用简单并且高效（powerful），Kubernetes 提供了应用部署、规划、更新、维护的一种机制。

  • k8s笔记

    ETCD是高可用分布式的键值存储系统。

  • 尚大的kubernetes笔记（持续更新中）

    满足批量数据处理和分析的场景 2.3 应用部署架构分类 (1) 无中心节点架构 GlusterFS (2) 有中心节点架构 HDFS K8S 2.4 k8s 集群架构 2.5 k8s 集群架构节点角色功能 Master Node k8s 集群控制节点，对集群进行调度...

  • spring-ai-spring-boot-autoconfigure-1.0.0-M5.jar中文文档.zip

    # 【spring-ai-spring-boot-autoconfigure-***.jar中文文档.zip】 中包含： 中文文档：【spring-ai-spring-boot-autoconfigure-***-javadoc-API文档-中文(简体)版.zip】 jar包下载地址：【spring-ai-spring-boot-autoconfigure-***.jar下载地址(官方地址+国内镜像地址).txt】 Maven依赖：【spring-ai-spring-boot-autoconfigure-***.jar Maven依赖信息(可用于项目pom.xml).txt】 Gradle依赖：【spring-ai-spring-boot-autoconfigure-***.jar Gradle依赖信息(可用于项目build.gradle).txt】 源代码下载地址：【spring-ai-spring-boot-autoconfigure-***-sources.jar下载地址(官方地址+国内镜像地址).txt】 # 本文件关键字： spring-ai-spring-boot-autoconfigure-***.jar中文文档.zip,java,spring-ai-spring-boot-autoconfigure-***.jar,org.springframework.ai,spring-ai-spring-boot-autoconfigure,***,org.springframework.ai.autoconfigure.anthropic,jar包,Maven,第三方jar包,组件,开源组件,第三方组件,Gradle,springframework,spring,ai,boot,autoconfigure,中文API文档,手册,开发手册,使用手册,参考手册 # 使用方法： 解压 【spring-ai-spring-boot-autoconfigure-***.jar中文文档.zip】，再解压其中的 【spring-ai-spring-boot-autoconfigure-***-javadoc-API文档-中文(简体)版.zip】，双击 【index.html】 文件，即可用浏览器打开、进行查看。 # 特殊说明： ·本文档为人性化翻译，精心制作，请放心使用。 ·只翻译了该翻译的内容，如：注释、说明、描述、用法讲解 等； ·不该翻译的内容保持原样，如：类名、方法名、包名、类型、关键字、代码 等。 # 温馨提示： （1）为了防止解压后路径太长导致浏览器无法打开，推荐在解压时选择“解压到当前文件夹”（放心，自带文件夹，文件不会散落一地）； （2）有时，一套Java组件会有多个jar，所以在下载前，请仔细阅读本篇描述，以确保这就是你需要的文件； # Maven依赖： ``` <dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-spring-boot-autoconfigure</artifactId> <version>***</version> </dependency> ``` # Gradle依赖： ``` Gradle: implementation group: 'org.springframework.ai', name: 'spring-ai-spring-boot-autoconfigure', version: '***' Gradle (Short): implementation 'org.springframework.ai:spring-ai-spring-boot-autoconfigure:***' Gradle (Kotlin): implementation("org.springframework.ai:spring-ai-spring-boot-autoconfigure:***") ``` # 含有的 Java package（包）： ``` org.springframework.ai.autoconfigure.anthropic org.springframework.ai.autoconfigure.azure.openai org.springframework.ai.autoconfigure.bedrock org.springframework.ai.autoconfigure.bedrock.anthropic org.springframework.ai.autoconfigure.bedrock.anthropic3

  • 50页-道路环卫保洁服务项目管理计划方案.pdf

    在当今智慧城市的建设浪潮中，智慧环卫作为城市管理的重要组成部分，正以其独特的魅力引领着环卫行业的变革。本方案旨在通过一系列高科技手段，如物联网、大数据、云计算等，全面提升环卫作业效率与管理水平，为城市居民创造更加清洁、宜居的生活环境。 一、智慧环卫系统概述与核心亮点 智慧环卫系统是一个集机械化保洁、垃圾清运、设施管理、事件指挥调度等多功能于一体的综合性管理平台。其核心亮点在于通过高精度定位、实时监控与智能分析，实现环卫作业的精细化管理。例如，机械化保洁管理子系统能够实时监控机扫车、洒水车等作业车辆的运行状态，自动规划最优作业路线，并根据作业完成情况生成考核评价报表，极大地提高了作业效率与服务质量。同时，垃圾清运管理子系统则通过安装GPS定位设备和油量传感器，对清运车辆进行全方位监控，确保垃圾清运过程的规范与高效，有效解决了城市垃圾堆积与随意倾倒的问题。此外，系统还配备了垃圾箱满溢报警系统，通过智能感应技术，当垃圾箱内垃圾达到预设高度时自动报警，提醒作业人员及时清运，避免了因垃圾满溢而引发的居民投诉与环境污染。 二、智慧环卫系统的趣味性与知识性融合 智慧环卫系统不仅实用性强，还蕴含着丰富的趣味性与知识性。以餐厨垃圾收运管理子系统为例，该系统通过为餐厨垃圾收运车辆安装GPS定位、车载称重、视频监控等多种感知设备，实现了对餐厨垃圾收运过程的全程监控与智能管理。作业人员可以通过手机APP实时查看车辆位置、行驶轨迹及收运情况，仿佛在玩一场现实版的“垃圾追踪游戏”。同时，系统还能自动生成餐厨垃圾收运统计报表，帮助管理人员轻松掌握收运量、违规情况等关键数据，让数据管理变得既科学又有趣。此外，中转站视频监控子系统更是将趣味性与实用性完美结合，通过高清摄像头与双向语音对讲功能，实现了对中转站内外环境的实时监控与远程指挥，让管理人员足不出户就能掌控全局，仿佛拥有了一双“千里眼”和一对“顺风耳”。 三、智慧环卫系统的未来展望与社会价值 随着科技的不断进步与智慧城市建设的深入推进，智慧环卫系统将迎来更加广阔的发展前景。未来，智慧环卫系统将更加注重数据的深度挖掘与分析，通过大数据与人工智能技术，为城市环卫管理提供更加精准、高效的决策支持。同时，系统还将加强与其他城市管理系统的互联互通，实现资源共享与协同作战，共同推动城市管理的智能化、精细化水平。从社会价值来看，智慧环卫系统的推广与应用将有效提升城市环境卫生质量，改善居民生活环境，提升城市形象与竞争力。此外，系统还能通过优化作业流程、减少资源浪费等方式，为城市可持续发展贡献重要力量。可以说，智慧环卫系统不仅是城市管理的得力助手，更是推动社会进步与文明发展的重要力量。

Global site tag (gtag.js) - Google Analytics