一、前言
随着社会的发展,技术的进步,以前的大型机架构很显然由于高成本、难维护等原因渐渐地变得不再那么主流了,替代它的就是当下最火的分布式架构,从大型机到分布式,经历了好几个阶段,我们弄明白各个阶段的架构,才能更好地理解和体会分布式架构的好处,那么本文我们就来聊聊分布式架构的演进过程,希望能给大家带来眼前一亮的感觉。
二、背景说明
我们都知道一个成熟的大型网站的系统架构并非一开始就设计的非常完美,也没有一开始就具备高性能、高并发、高可用、安全性等特性,而是随着用户量的增加、业务功能的扩展逐步演变过来的,慢慢的完善的。 在这个过程中,开发模式、技术架构等都会随着迭代发生非常大的变化。 而针对不同业务特征的系统,各自都会有自己的侧重点,例如像淘宝这类的网站,要解决的重点问题就是海量商品搜索、下单、支付等问题; 像腾讯这类的网站,要解决的是数亿级别用户的实时消息传输;而像百度这类的公司所要解决的又是海量数据的搜索。每一个种类的业务都有自己不同的系统架构。
下面我们来简单模拟一个架构演变过程。 我们以 javaweb 为例,来搭建一个简单的电商系统,从这个系统中来看系统的演变过程。要注意的是接下来的演示模型, 关注的是数据量、访问量提升,网站结构的变化, 而不关注具体业务的功能点。其次,这个过程是为了让大家能更好的了解网站演进过程中的一些问题和应对策略。
假如我们系统具备以下功能:
- 用户模块:用户注册和管理。
- 商品模块:商品展示和管理。
- 交易模块:创建交易及支付结算。
三、阶段一:单应用架构
这个阶段是网站的初期,也可以认为是互联网发展的早期,系统架构如上图所示。我们经常会在单台服务器上运行我们所有的程序和软件。 把所有软件和应用都部署在一台机器上,这样就完成一个简单系统的搭建,这个阶段的讲究的是效率。效率决定生死。
四、阶段二:应用服务器和数据库服务器分离
随着网站的上线,访问量逐步上升,服务器的负载慢慢提高,我们应该在服务器还没有超载的时候就做好规划、提升网站的负载能力。假若此时已经没办法在代码层面继续优化提高,那么在单台机器的性能遇到瓶颈的时候,增加机器是一个比较简单好用的方式,投入产出比相当高。这个阶段增加机器的主要目的是将 web 服务器和 数据库服务器拆分开来,这样做的话不仅提高了单机的负载能力,也提高了整个系统的容灾能力。
五、阶段三:应用服务器集群
这个阶段,随着访问量的继续不断增加,单台应用服务器已经无法满足我们的需求。 假设我的数据库服务器还没有遇到性能问题,那我们可以通过增加应用服务器的方式来将应用服务器集群化,这样就可以将用户请求分流到各个服务器中,从而达到继续提升系统负载能力的目的。此时各个应用服务器之间没有直接的交互,他们都是依赖数据库各自对外提供服务。
系统架构发展到这个阶段,各种问题也会接踵而至:
-
用户请求交由谁来转发到具体的应用服务器上(谁来负责负载均衡)
-
用户如果每次访问到的服务器不一样,那么如何维护
session,达到session共享的目的。
那么此时,系统架构又会变成如下方式:
负载均衡又可以分为软负载和硬负载。软负载我们可以选择Nginx、Apache等,硬负载我们可以选择F5等。而session共享问题我们可以通过配置tomcat的session共享解决。
六、阶段四:数据库压力变大,数据库读写分离
架构演变到上面的阶段,并不是终点。通过上面的设计,应用层的性能被我们拉上来了, 但数据库的负载也在逐渐增大,那如何去提高数据库层面的性能呢?有了前面的设计思路以后,我们自然也会想到通过增加服务器来提高性能。但假如我们单纯的把数据库一分为二,然后对于数据库的请求,分别负载到两台数据库服务器上,那必定会造成数据库数据不统一的问题。 所以我们一般先考虑将数据库读写分离。
这个架构设计的变化会带来如下几个问题:
- 主从数据库之间的数据需要同步(可以使用 mysql 自带的 master-slave 方式实现主从复制 )
- 应用中需要根据业务进行对应数据源的选择( 采用第三方数据库中间件,例如 mycat )
七、阶段五:使用搜索引擎缓解读库的压力
我们都知道数据库常常对模糊查找效率不是很高,像电商类的网站,搜索是非常核心的功能,即使是做了读写分离,这个问题也不能得到有效解决。那么这个时候我们就需要引入搜索引擎了,使用搜索引擎能够大大提升我们系统的查询速度,但同时也会带来一 些附加的问题,比如维护索引的构建、数据同步到搜索引擎等。
八、阶段六:引入缓存机制缓解数据库的压力
然后,随着访问量的持续不断增加,逐渐会出现许多用户访问同一内容的情况,那么对于这些热点数据,没必要每次都从数据库重读取,这时我们可以使用到缓存技术,比如 redis、memcache 来作为我们应用层的缓存。另外在某些场景下,如我们对用户的某些 IP 的访问频率做限制, 那这个放内存中就又不合适,放数据库又太麻烦了,那这个时候可以使用 Nosql 的方式比如 mongDB 来代替传统的关系型数据库。
九、阶段七:数据库的水平/垂直拆分
我们的网站演进的变化过程,交易、商品、用户的数据都还在同一 个数据库中,尽管采取了增加缓存,读写分离的方式,但是随着数 据库的压力持续增加,数据库的瓶颈仍然是个最大的问题。因此我 们可以考虑对数据的垂直拆分和水平拆分。
垂直拆分:把数据库中不同业务数据拆分到不同的数据库。
水平拆分:把同一个表中的数据拆分到两个甚至更多的数据库中,水平拆分的原因是某些业务数据量已经达到了单个数据库的瓶颈,这时可以采取将表拆分到多个数据库中。
十、阶段八:应用的拆分
随着业务的发展,业务量越来越大,应用的压力越来越大。工程规模也越来越庞大。这个时候就可以考虑将应用拆分,按照领域模型将我们的用户、商品、交易拆分成多个子系统。
这样拆分以后,可能会有一些相同的代码,比如用户操作,在商品和交易都需要查询,所以会导致每个系统都会有用户查询访问相关操作。这些相同的操作一定是要抽象出来,否则就是一个坑。所以通过走服务化路线的方式来解决。
那么服务拆分以后,各个服务之间如何进行远程通信呢? 通过 RPC 技术,比较典型的有:dubbo、webservice、hessian、http、RMI 等等。前期通过这些技术能够很好的解决各个服务之间通信问题,但是, 互联网的发展是持续的,所以架构的演变和优化也还在持续。
十一、总结
通过本文,我们通过一个电商的案例,就了解到了分布式架构的演进过程,一环套一环,环环紧密相扣。都是通过业务量和访问量的提升来考虑重构架构设计,以便能够适应当前的环境。不可一蹴而就,也急不来,初创企业必须稳扎稳打,一步一个脚印的走出一条专属自己的路。加油,everybody!
相关推荐
第三部分选举了以淘宝网和 Twitter 为代表的国内外知名互联网企业的大型分布式系统案例,分析其架构设计以及演变过程;这部分相当于是对第二部分零散的技术点做一个“串烧”,让读者可以结合技术的理论,看到实战的...
第三部分选举了以淘宝网和 Twitter 为代表的国内外知名互联网企业的大型分布式系统案例,分析其架构设计以及演变过程;这部分相当于是对第二部分零散的技术点做一个“串烧”,让读者可以结合技术的理论,看到实战的...
分布式系统的演变-2016.mhtml
本书的内容比较全面,涵盖分布式系统基础理论、常用技术以及经典的案例分析。...并辅以*网和Twitter为代表的国内外知名互联网企业的大型分布式系统为案例,分析其架构设计以及演变过程,做到了理论和实践相结合。
人人都是架构师+分布式系统架构落地与瓶颈突破+高清完整版 本书并没有过多渲染系统架构的理论知识,而是切切实实站在开发一线角度,为各位读者诠释 了大型网站在架构演变过程中出现 系列技术难题时的解决方案。本书...
但随着Web技术和互联网的发展,分布式系统演变为浏览器/服务器(B/S)模式,用户只需通过浏览器即可访问和操作系统,降低了系统的维护成本,增强了可扩展性和灵活性。 基于Web的分布式变电运行管理系统具备以下特点...
文章首章深入探讨了服务化架构的发展历程,以及它是如何随着业务需求和技术进步逐步演变为当前的分布式系统架构。作者通过自身多年的实践经验,讲述了从简单的单体架构到微服务架构的转变过程,这一过程不仅涉及技术...
全书共 8 章,分为五部分:第一部分(第 1 章)主要介绍了计算机系统从集中式向分布式系统演变过程中面临的挑战,并简要介绍了 ACID、CAP 和 BASE 等经典分布式理论;第二部分(第 2~4 章)介绍了 2PC、3PC 和 ...
本文综述了基于日志数据的分布式软件系统故障诊断的研究现状...随着大数据技术、云计算和人工智能的发展,未来的故障诊断技术有望实现更加智能化、自动化和高效化的运维支持,为复杂分布式系统的稳定运行提供有力保障。
全书共8章,分为五部分:第一部分(第1章)主要介绍了计算机系统从集中式向分布式系统演变过程中面临的挑战,并简要介绍了ACID、CAP和BASE等经典分布式理论;第二部分(第2~4章)介绍了2PC、3PC和Paxos三种分布式...
伴随着云计算的兴起,分布式系统进一步演变为云原生架构。云原生强调利用云计算的弹性、自动化和容器化技术,如Kubernetes(K8s)等编排工具,来管理和部署服务。容器化的微服务可以轻松地在不同环境中迁移,实现...
在当今信息化时代,计算机网络建设是一项基础且关键的工作,而分布式系统作为网络建设的重要组成部分,其网络安全问题显得尤为重要。分布式系统是指通过网络将地理位置分散的、功能独立的各种资源(包括硬件、软件等...
分布式系统是现代信息技术发展的一个重要方向,特别是对于金融、电信等领域,分布式核心交易系统的设计与解耦技术更显得至关重要。在本文中,东方证券股份有限公司系统运行总部总经理王海东分享了“东方睿阳”项目中...
分布式系统与单机系统相比,具有许多显著优势,但也面临着新的挑战。本文将从分布式系统的发展背景、基本概念、系统架构及工作原理等方面进行深入解析。 首先,分布式系统的起源可追溯至单机模式的局限性。早期的...
1. **分布式系统的基本概念**:解释了分布式系统的基础知识,包括通信协议、并发控制等。 2. **数据分片与复制**:详细讨论了数据如何被分片以及副本是如何管理的,这对于理解分布式数据库的工作原理至关重要。 3...
这一演变过程中,操作系统如Windows、Unix和Linux起到了关键作用,它们允许在同一台机器上执行多个任务,为分布式系统提供了基础。 面向服务架构(SOA)的出现是分布式系统发展的一个里程碑,它提倡将复杂的系统...
【分布式系统与云计算知识点】 1. 分布式系统的特性: - 透明性:用户无需关心数据和服务的具体位置,操作如同在本地执行。 - 开放性:允许系统添加或删除节点,支持异构环境。 - 易用性:并非分布式系统的特性...
分布式系统技术学习引导 在当前的互联网环境中,随着业务量的不断增长,传统的单体应用架构已经无法满足高效、可扩展的需求。因此,微服务和分布式架构成为了现代软件开发的重要趋势。本学习引导将深入探讨这两个...
“Web计算的发展”和“基于Web的计算模式和XML”章节则探讨了Web技术在分布式计算中的演变,XML作为数据交换格式,对于构建Web服务和分布式系统至关重要,因为它具有良好的可读性和结构化特性。 最后,“轻量级框架...
【分布式系统概述】 分布式系统是一种由多个相互协作的计算实体组成的系统,这些实体通过网络通信和协调工作,共同完成一个任务。随着互联网的发展,分布式架构逐渐成为支撑大规模、高并发应用的重要基石。从单体式...