`
holoblog
  • 浏览: 1236405 次
博客专栏
E0fcf0b7-6756-3051-9a54-90b4324c9940
SQL Server 20...
浏览量:19043
文章分类
社区版块
存档分类
最新评论

大流量网站的底层系统架构

 
阅读更多

动态应用,是相对于网站静态内容而言, 是指以c/c++、php、Java、perl、.net等 服务器端语言开发的网络应用软件,比如论坛、网络相册、交友、BLOG等常见应用。动态应用系统通 常与数据库系统、缓存系统、分布式存储系统等密不可分。

大型动态应用系统平台主要是针对于大流 量、高并发网站建立的底层系统架构。大型网站的运行需要一个可靠、安全、可扩展、易维护的应用系统平台做为支撑,以保证网站应用的平稳运行。

大型动态应用系统又可分为几个子系统:

l Web前 端系统

l 负 载均衡系统

l 数 据库集群系统

l 缓 存系统

l 分 布式存储系统

l 分 布式服务器管理系统

l 代 码分发系统

Web前端系统

结构图:

为了达到不同应用的服务器共享、避免单点故障、集中管理、统一配置等目的,不以应用划分服 务器,而是将所有服务器做统一使用,每台服务器都可以对多个应用提供服务,当某些应用访问量升高时,通过增加服务器节点达到整个服务器集群的性能提高,同 时使他应用也会受益。该Web前端系统基于Apache/Lighttpd/Nginx等 的虚拟主机平台,提供PHP程序运行环境。服务器对开发人员是透明的,不需要开发人员介入服务器管理

负载均衡系统



负载均衡系统分为硬件和软件两种。硬件负载均衡效率高,但是价格贵,比如F5等。软件负载均衡系统价格较低或者免费,效率较硬件负载均衡系统 低,不过对于流量一般或稍大些网站来讲也足够使用,比如lvs,nginx。大多数网站都是硬件、软件负载均衡系统并用。

数据库集群系统

结构图:

由于Web前端采用了负载均衡集群结构提高了服务的有效性和扩展性,因此数据库必须也是高可靠的才能保证整个服务体系的高可靠性,如何构建一个高可靠的、可以提供大规模并发处理的数据库体系?

我们可以采用如上图所示的方案:

1) 使用 MySQL 数据库,考虑到Web应用的数据库读多写少的特点,我们主要对读数据库做了优化,提供专用的读数据库和写数据库,在应用程序中实现读操作和写操作分别访问不同的数据库。

2) 使用 MySQL Replication 机制实现快速将主库(写库)的数据库复制到从库(读库)。一个主库对应多个从库,主库数据实时同步到从库。

3) 写数据库有多台,每台都可以提供多个应用共同使用,这样可以解决写库的性能瓶颈问题和单点故障问题。

4) 读数据库有多台,通过负载均衡设备实现负载均衡,从而达到读数据库的高性能、高可靠和高可扩展性。

5) 数据库服务器和应用服务器分离。

6) 从数据库使用BigIP做负载均衡。

缓存系统



缓存分为文件缓存、内存缓存、数据库缓存。在大型Web应用中使用最多且效率最高的是内存缓存。最常用的内存缓存工具是Memcachd。使用正确的缓存系统可以达到实现以下目标:

1、 使用缓存系统可以提高访问效率,提高服务器吞吐能力,改善用户体验。

2、 减轻对数据库及存储集服务器的访问压力

3、Memcached服务器有多台,避免单点故障,提供高可靠性和可扩展性,提高性能。

分布式存储系统

结构图:

WEB系统平台中的存储需求有下面两个特点:

1) 存储量很大,经常会达到单台服务器无法提供的规模,比如相册、视频等应用。因此需要专业的大规模存储系统。

2) 负载均衡cluster中的每个节点都有可能访问任何一个数据对象,每个节点对数据的处理也能被其他节点共享,因此这些节点要操作的数据从逻辑上看只能是一个整体,不是各自独立的数据资源。

因此高性能的分布式存储系统对于大型网站应用来说是非常重要的一环。(这个地方需要加入对某个分布式存储系统的简单介绍。)

分布式服务器管理系统

结构图:

随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,原来基于单机的服务器管理模式已经不能够满足我们的需求,新的需求必须能够集中式的、分组的、批量的、自动化的对服务器进行管理,能够批量化的执行计划任务。

在分布式服务器管理系统软件中有一些比较优秀的软件,其中比较理想的一个是 Cfengine。它可以对服务器进行分组,不同的分组可以分别定制系统配置文件、计划任务等配置。它是基于C/S 结构的,所有的服务器配置和管理脚本程序都保存在Cfengine Server上,而被管理的服务器运行着 Cfengine Client 程序,Cfengine Client通过SSL加密的连接定期的向服务器端发送请求以获取最新的配置文件和管理命令、脚本程序、补丁安装等任务。

有了Cfengine 这种集中式的服务器管理工具,我们就可以高效的实现大规模的服务器集群管理,被管理服务器和 Cfengine Server 可以分布在任何位置,只要网络可以连通就能实现快速自动化的管理。

代码发布系统

结构图:

随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,为了满足集群环境下程序代码的批量分发和更新,我们还需要一个程序代码发布系统。

这个发布系统可以帮我们实现下面的目标:

1) 生产环境的服务器以虚拟主机方式提供服务,不需要开发人员介入维护和直接操作,提供发布系统可以实现不需要登陆服务器就能把程序分发到目标服务器。

2) 我们要实现内部开发、内部测试、生产环境测试、生产环境发布的4个开发阶段的管理,发布系统可以介入各个阶段的代码发布。

3) 我们需要实现源代码管理和版本控制,SVN可以实现该需求。

这里面可以使用常用的工具Rsync,通过开发相应的脚本工具实现服务器集群间代码同步分发。

原文出处:http://chenge.diandian.com/post/2011-10-30/6366412

分享到:
评论

相关推荐

    大流量、高并发的网站的底层系统架构.pdf

    【大流量、高并发的网站底层系统架构】是针对处理大量用户访问和高并发场景而设计的复杂系统架构。这种架构通常由多个子系统组成,包括Web前端系统、负载均衡系统、数据库集群系统、缓存系统、分布式存储系统以及...

    大流量、高并发的网站的底层系统架构

    在构建大流量、高并发的网站时,底层系统架构的设计至关重要。这关乎到系统的稳定性、扩展性和性能。本文将深入探讨这一主题,并基于提供的标签"源码"和"工具"来解析相关技术。 首先,一个高并发的系统通常采用...

    大型高性能ASP.NET系统架构设计

    大型动态应用系统平台主要是针对于大流量、高并发网站建立的底层系统架构。大型网站的运行需要一个可靠、安全、可扩展、易维护的应用系统平台做为支撑,以保证网站应用的平稳运行。 大型动态应用系统又可分为几个子...

    大型网站动态应用系统架构设计思想

    大型动态应用系统平台主要是针对于大流量、高并发网站建立的底层系统架构。大型网站的运行需要一个可靠、安全、可扩展、易维护的应用系统平台做为支撑,以保证网站应用的平稳运行。大型动态应用系统又可分为几个子...

    云计算系统架构文档(1)

    云计算系统架构是现代信息技术领域中的核心概念,它涉及到大规模数据处理、分布式计算、虚拟化技术以及服务交付等多个方面。在本文档中,我们将深入探讨中国大型IT企业的云计算系统架构实例,以此来理解这一领域的...

    京东-商品数据的大规模数据计算和底层架构搭建.rar

    9. 弹性伸缩与容错机制:京东的底层架构需要具备应对流量波动的能力,通过云计算平台(如AWS、阿里云或自建的云基础设施)实现资源的动态调整。同时,容错机制如Hadoop的检查点和Spark的故障恢复策略保证系统的稳定...

    互联网网站演变架构

    在互联网发展的历程中,网站架构经历了多次重大变革,以应对不断增长的用户需求、流量压力以及技术的进步。本文将深入探讨互联网网站从v1到v11的演变过程,涉及的关键技术、出现的问题以及相应的解决方案。 一、V1...

    采用JSP开发的网站流量统计系统

    《采用JSP开发的网站流量统计系统》 网站流量统计系统是互联网数据分析的重要工具,它可以帮助网站管理员了解网站的访问情况,包括用户访问量、页面浏览量、停留时间、来源路径等关键指标,从而优化网站内容,提升...

    智能用电信息系统通信机制及技术架构.pdf

    智能用电信息系统是现代电力系统的重要组成部分,它利用先进的信息技术和通信技术,...未来,随着人工智能和其他先进技术的进一步融合,智能用电信息系统将会更加完善,对电力系统的安全、稳定和效率带来更大的提升。

    互联网公司技术架构资料.新浪.动态应用平台实践.pdf

    本文是关于新浪动态应用平台的技术实践分享,主要介绍了该平台的发展历程、目的、系统架构、可扩展性、多机房体系、使用的开源软件以及相关经验分享。 1. 平台介绍: 新浪动态应用平台自2004年起逐步发展,最初由...

    医疗保险报销系统.net2005+sql2005。c/s架构

    使用存储过程可以提高性能,减少网络流量,并提供更好的安全控制,因为它们可以有权限限制,而不是直接访问底层表。 【系统架构】:C/S架构意味着系统分为两部分:客户端(Client)和服务器端(Server)。客户端...

    动力电池故障预测分析大数据平台架构.pptx

    * 该平台的安全监控功能包括系统运行安全监控、系统日志监控、对大数据分析的结果分优先级推送给责任人等功能模块。 九、计费管理 * 该平台的计费管理功能包括对客户充电车或电动汽车的健康诊断,并按照项目收取...

    Go-微服务架构游戏服务框架

    "Go-微服务架构游戏服务框架"是一个专门针对游戏开发领域的微服务框架,它允许开发者专注于业务逻辑,而不必过于关心底层网络通信和进程管理。 微服务架构是一种将单一应用程序拆分为一组小的、独立的服务的方法,...

    大型网站系统与JAVA中间件实践

    在构建大型网站系统时,Java中间件扮演着至关重要的角色,它们是系统高效运行和扩展性的基石。本文将深入探讨大型网站系统与Java中间件的实践应用,旨在帮助读者理解和掌握这些关键技术。 首先,让我们从基础开始,...

    SpringBoot3+Vue3 开发高并发秒杀抢购系统完结17章

    从架构视角来看,秒杀系统本质是一个高性能、高一致、高可用的三高系统。而打造并维护一个超大流量的秒杀系统需要进行哪些关注。本文主要介绍有关于秒杀系统的设计和底层实现原理。 一、通过对需求分析,我们提炼出...

    好的架构是进化来的,不是设计来的_知识库_博客园1

    【好的架构是进化来的,不是设计来的】...通过逐步解决问题,优化系统,才能构建出适应大规模流量和复杂业务场景的高效架构。因此,创业公司在规划架构时,应保持足够的灵活性,允许架构随着业务需求的变化而自然演化。

    云计算架构设计与实现

    云计算架构设计与实现是当前IT领域的一个核心话题,它涉及到如何构建、管理和优化大规模的分布式计算环境,以提供高效、可扩展且经济的计算服务。在这个主题中,数据中心扮演着至关重要的角色,它是云计算基础设施的...

    系统测试与质量保障经验沉淀 TCPCopy在架构测试中的应用 共24页.ppt

    【系统测试与质量保障经验沉淀】TCPCopy在架构测试中的应用 系统测试是软件开发过程中至关重要的一环,它确保产品的稳定性和可靠性。质量保障则是系统测试的核心目标,旨在通过一系列测试方法和技术来保证软件质量...

Global site tag (gtag.js) - Google Analytics