`
hongxuecn
  • 浏览: 346 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论
阅读更多

本文是学习大型分布式网站架构的技术总结。对架构一个高性能,高可用,可伸缩,可扩展的分布式网站进行了概要性描述,并给出一个架构参考。一部分为读书笔记,一部分是个人经验总结。对大型分布式网站架构有很好的参考价值。(如果感觉对大家有帮助,请帮忙点推荐,谢谢。本博客会逐步推出一系列的关于大型分布式网站架构,设计模式,架构模式方面的系列文章,交流群:466097527)

  本次分享大纲如下

  1. 大型网站的特点
  2. 大型网站架构目标
  3. 大型网站架构模式
  4. 高性能架构
  5. 高可用架构
  6. 可伸缩架构
  7. 可扩展架构
  8. 安全架构
  9. 敏捷架构
  10. 大型架构举例 

一、大型网站的特点

  • 用户多,分布广泛
  • 大流量,高并发
  • 海量数据,服务高可用
  • 安全环境恶劣,易受网络攻击
  • 功能多,变更快,频繁发布
  • 从小到大,渐进发展
  • 以用户为中心
  • 免费服务,付费体验 

二、大型网站架构目标

  • 高性能:提供快速的访问体验。
  • 高可用:网站服务一直可以正常访问。
  • 可伸缩:通过硬件增加/减少,提高/降低处理能力。
  • 安全性:提供网站安全访问和数据加密,安全存储等策略。
  • 扩展性:方便的通过新增/移除方式,增加/减少新的功能/模块。
  • 敏捷性:随需应变,快速响应;

  

三、大型网站架构模式

 

  • 分层:一般可分为,应用层,服务层,数据层,管理层,分析层;
  • 分割:一般按照业务/模块/功能特点进行划分,比如应用层分为首页,用户中心。
  • 分布式:将应用分开部署(比如多台物理机),通过远程调用协同工作。
  • 集群:一个应用/模块/功能部署多份(如:多台物理机),通过负载均衡共同提供对外访问。
  • 缓存:将数据放在距离应用或用户最近的位置,加快访问速度。
  • 异步:将同步的操作异步化。客户端发出请求,不等待服务端响应,等服务端处理完毕后,使用通知或轮询的方式告知请求方。一般指:请求——响应——通知 模式。
  • 冗余:增加副本,提高可用性,安全性,性能。
  • 安全:对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。
  • 自动化:将重复的,不需要人工参与的事情,通过工具的方式,使用机器完成。
  • 敏捷性:积极接受需求变更,快速响应业务发展需求。 

四、高性能架构

以用户为中心,提供快速的网页访问体验。主要参数有较短的响应时间,较大的并发处理能力,较高的吞吐量,稳定的性能参数。

可分为前端优化,应用层优化,代码层优化,存储层优化。

前端优化:网站业务逻辑之前的部分;

浏览器优化:减少Http请求数,使用浏览器缓存,启用压缩,Css Js位置,Js异步,减少Cookie传输;

CDN加速,反向代理;

应用层优化:处理网站业务的服务器。使用缓存,异步,集群

代码优化:合理的架构,多线程,资源复用(对象池,线程池等),良好的数据结构,JVM调优,单例,Cache等;

存储优化:缓存,固态硬盘,光纤传输,优化读写,磁盘冗余,分布式存储(HDFS),NOSQL等; 

五、高可用架构

大型网站应该在任何时候都可以正常访问。正常提供对外服务。因为大型网站的复杂性,分布式,廉价服务器,开源数据库,操作系统等特点。要保证高可用是很困难的,也就是说网站的故障是不可避免的。

如何提高可用性,就是需要迫切解决的问题。首先,需要从架构级别,在规划的时候,就考虑可用性。行业内一般用几个9表示可用性指标。比如四个9(99.99),一年内允许的不可用时间是53分钟。

不同层级使用的策略不同,一般采用冗余备份和失效转移解决高可用问题。

应用层:一般设计为无状态的,对于每次请求,使用哪一台服务器处理是没有影响的。一般使用负载均衡技术(需要解决Session同步问题),实现高可用。

服务层:负载均衡,分级管理,快速失败(超时设置),异步调用,服务降级,幂等设计等。

数据层:冗余备份(冷,热备[同步,异步],温备),失效转移(确认,转移,恢复)。数据高可用方面著名的理论基础是CAP理论(持久性,可用性,数据一致性[强一致,用户一致,最终一致])  

六、可伸缩架构

伸缩性是指在不改变原有架构设计的基础上,通过添加/减少硬件(服务器)的方式,提高/降低系统的处理能力。

应用层:对应用进行垂直或水平切分。然后针对单一功能进行负载均衡(DNS,HTTP[反向代理],IP,链路层)。

服务层:与应用层类似;

数据层:分库,分表,NOSQL等;常用算法Hash,一致性Hash。 

七、可扩展架构

可以方便的进行功能模块的新增/移除,提供代码/模块级别良好的可扩展性。

模块化,组件化:高内聚,内耦合,提高复用性,扩展性。

稳定接口:定义稳定的接口,在接口不变的情况下,内部结构可以“随意”变化。

设计模式:应用面向对象思想,原则,使用设计模式,进行代码层面的设计。

消息队列:模块化的系统,通过消息队列进行交互,使模块之间的依赖解耦。

分布式服务:公用模块服务化,提供其他系统使用,提高可重用性,扩展性。 

八、安全架构

对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。对于安全问题,首先要提高安全意识,建立一个安全的有效机制,从政策层面,组织层面进行保障。比如服务器密码不能泄露,密码每月更新,并且三次内不能重复;每周安全扫描等。以制度化的方式,加强安全体系的建设。同时,需要注意与安全有关的各个环节。安全问题不容忽视。包括基础设施安全,应用系统安全,数据保密安全等。

基础设施安全:硬件采购,操作系统,网络环境方面的安全。一般采用,正规渠道购买高质量的产品,选择安全的操作系统,及时修补漏洞,安装杀毒软件防火墙。防范病毒,后门。设置防火墙策略,建立DDOS防御系统,使用攻击检测系统,进行         子网隔离等手段。

         应用系统安全:在程序开发时,对已知常用问题,使用正确的方式,在代码层面解决掉。防止跨站脚本攻击(XSS),注入攻击,跨站请求伪造(CSRF),错误信息,HTML注释,文件上传,路径遍历等。还可以使用Web应用防火墙(比如:ModSecurity),进行安全漏洞扫描等措施,加强应用级别的安全。

         数据保密安全:存储安全(存在在可靠的设备,实时,定时备份),保存安全(重要的信息加密保存,选择合适的人员复杂保存和检测等),传输安全(防止数据窃取和数据篡改);

         常用的加解密算法(单项散列加密[MD5,SHA],对称加密[DES,3DES,RC]),非对称加密[RSA]等。 

九、敏捷性

网站的架构设计,运维管理要适应变化,提供高伸缩性,高扩展性。方便的应对快速的业务发展,突增高流量访问等要求。

除上面介绍的架构要素外,还需要引入敏捷管理,敏捷开发的思想。使业务,产品,技术,运维统一起来,随需应变,快速响应。 

十、大型架构举例

 

以上采用七层逻辑架构,第一层客户层,第二层前端优化层,第三层应用层,第四层服务层,第五层数据存储层,第六层大数据存储层,第七层大数据处理层。

客户层:支持PC浏览器和手机APP。差别是手机APP可以直接访问通过IP访问,反向代理服务器。

前端层:使用DNS负载均衡,CDN本地加速以及反向代理服务;

应用层:网站应用集群;按照业务进行垂直拆分,比如商品应用,会员中心等;

服务层:提供公用服务,比如用户服务,订单服务,支付服务等;

数据层:支持关系型数据库集群(支持读写分离),NOSQL集群,分布式文件系统集群;以及分布式Cache;

大数据存储层:支持应用层和服务层的日志数据收集,关系数据库和NOSQL数据库的结构化和半结构化数据收集;

大数据处理层:通过Mapreduce进行离线数据分析或Storm实时数据分析,并将处理后的数据存入关系型数据库。(实际使用中,离线数据和实时数据会按照业务要求进行分类处理,并存入不同的数据库中,供应用层或服务层使用)。

大型网站架构交流(架构之家)交流群:466097527 ,以架构为核心的兴趣群,专注大型分布式网站架构,大数据,架构模式,设计模式。
分享到:
评论

相关推荐

    大型分布式网站架构设计与实践.pdf

    文是学习大型分布式网站架构的技术总结。对架构一个高性能,高可用,可伸缩,可扩展的分布式网站进行了概要性描述,并给出一个架构参考。一部分为读书笔记,一部分是个人经验总结。对大型分布式网站架构有很好的参考...

    大型分布式网站架构设计与实践 PDF(带目录清晰完整版)

    ### 大型分布式网站架构设计与实践 #### 一、引言 在当前互联网时代,随着用户数量的急剧增加以及业务复杂度的不断提高,传统的单体应用架构已经无法满足高并发、高性能的需求。因此,越来越多的企业开始采用...

    大型分布式网站架构设计 完整版 pdf 百度云链接

    根据提供的文件信息,我们可以推断出这份文档主要讨论的是“大型分布式网站架构设计”的相关内容,并且提供了一个百度云的下载链接。接下来,我们将基于这些信息深入探讨与大型分布式网站架构设计相关的几个关键知识...

    大型分布式网站架构设计与实践

    在描述中提到的“一线工作经验总结”,表明本书很可能涉及现实世界中大型分布式网站架构设计的实操案例和经验教训,这些通常包括实际工作中遇到的挑战和解决方案。它可能涵盖了网站从设计到部署、监控、优化和维护的...

    大型分布式电商系统架构是如何从0开始演进的?

    大型分布式电商系统架构的构建和演进是一个复杂且系统性的过程,它涉及到多个技术领域和设计原则。在从0开始构建这样一个系统时,我们需要考虑的关键点包括:高可用性(High Availability)、可扩展性(Scalability...

    大型分布式网站架构设计与实践高清扫描中文版

    《大型分布式网站架构设计与实践》是...总结,大型分布式网站架构设计与实践是一门深奥且实用的技术领域,涉及到众多技术和最佳实践。本书将带你深入了解这些概念,并通过具体案例帮助你掌握构建高效分布式系统的方法。

    大型分布式网站架构 设计与完美实践

    本文将深入探讨大型分布式网站架构的设计原则与最佳实践,帮助读者更好地理解和应用这一复杂但至关重要的技术领域。 #### 一、分布式系统概述 分布式系统是由多台计算机通过网络连接而成的一个集合体,在这个集合...

    凤凰架构:构建可靠的大型分布式系统.pdf

    《凤凰架构:构建可靠的大型分布式系统》是一本开源文档,其核心在于为技术人员提供一个构建可信赖的大型分布式软件系统的框架和方法论。分布式系统是一类由多个组件构成的系统,这些组件分散在不同的网络节点上,...

    分布式架构技术总结

    分布式架构技术是现代互联网服务的核心组成部分,随着互联网业务的飞速发展和用户需求的多样化,传统的单体架构已经无法满足高并发、高可用、可扩展性的需求。因此,分布式架构应运而生,它通过将应用程序拆分成多个...

    java分布式系统架构源码

    在大型分布式系统中,消息队列可以作为不同组件间的通信媒介,确保数据的一致性和异步处理。 EJB是Java EE的一部分,提供了创建可部署、可扩展的企业级应用程序的标准方式。EJB容器管理了对象的生命周期,包括事务...

    基于Mycat中间件分布式数据库架构及企业实践

    总结,Mycat作为分布式数据库中间件,为企业提供了强大的数据处理能力和高度的可扩展性,是应对大数据时代的关键工具。在实际应用中,我们需要深入了解其原理,结合具体业务场景,合理配置和使用,才能充分发挥其...

    大型网站分布式架构高并发高可用可扩展技术

    总结,大型网站的分布式架构通过合理的设计和实施,可以有效应对高并发挑战,确保系统的高可用性,并具备良好的扩展性。这些技术涵盖了从基础架构到应用层面的多个方面,包括但不限于服务的模块化、负载均衡、缓存...

    分布式架构理解总结

    ### 分布式架构理解总结 #### 一、分布式协作及配置管理系统 分布式协作及配置管理系统在分布式架构中扮演着至关重要的角色。这类系统的核心任务包括服务发现、配置管理以及节点间的协调工作。例如: - **...

    分布式数据库架构及企业实践-基于Mycat中间件

    总结,分布式数据库架构是应对大数据时代的关键技术之一,Mycat作为其中的代表性中间件,为企业提供了有效的解决方案。理解其工作原理,结合实际业务场景,能够帮助企业构建高效、稳定、可扩展的数据库系统。

    分布式数据库架构及企业实践 基于Mycat中间件.pdf

    分布式数据库架构是现代大型互联网应用的关键技术之一,它旨在解决单体数据库在处理高并发、大数据量场景下的性能瓶颈和扩展性问题。Mycat作为一款开源的分布式数据库中间件,已经成为许多企业和开发者构建分布式...

    《分布式系统常用技术及案例分析》PDF

    第三部分选举了以淘宝网和 Twitter 为代表的国内外知名互联网企业的大型分布式系统案例,分析其架构设计以及演变过程;这部分相当于是对第二部分零散的技术点做一个“串烧”,让读者可以结合技术的理论,看到实战的...

    教你搭建日PV千万级的网站集群架构教程合集-绝对的极品教程.zip_spark集群搭建步骤

    教你搭建日PV千万级的网站集群架构-绝对的极品教程.zip 阿里P8架构师谈 苏宁六年企业IT架构的演进之路 大并发大型网站架构设计 大型网站架构演化 大型分布式网站架构技术总结 Nginx负载均衡4种策略

Global site tag (gtag.js) - Google Analytics