转自: http://hi.baidu.com/liyijie342/item/a9df9c353cd1c9b0633aff5c
动态应用,是相对于网站静态内容而言, 是指以c/c++、php、Java、perl、.net等 服务器端语言开发的网络应用软件,比如论坛、网络相册、交友、BLOG等常见应用。动态应用系统通 常与数据库系统、缓存系统、分布式存储系统等密不可分。
大型动态应用系统平台主要是针对于大流 量、高并发网站建立的底层系统架构。大型网站的运行需要一个可靠、安全、可扩展、易维护的应用系统平台做为支撑,以保证网站应用的平稳运行。
大型动态应用系统又可分为几个子系统:
l Web前 端系统
l 负 载均衡系统
l 数 据库集群系统
l 缓 存系统
l 分 布式存储系统
l 分 布式服务器管理系统
l 代 码分发系统
Web前端系统
结构图:
为了达到不同应用的服务器共享、避免单点故障、集中管理、统一配置等目的,不以应用划分服 务器,而是将所有服务器做统一使用,每台服务器都可以对多个应用提供服务,当某些应用访问量升高时,通过增加服务器节点达到整个服务器集群的性能提高,同 时使他应用也会受益。该Web前端系统基于Apache/Lighttpd/Eginx等 的虚拟主机平台,提供PHP程序运行环境。服务器对开发人员是透明的,不需要开发人员介入服务器管理
负载均衡系统
负载均衡系统分为硬件和软件两种。硬件负载均衡效率高,但是价格贵,比如F5等。软件负载均衡系统价格较低或者免费,效率较硬件负载均衡系统 低,不过对于流量一般或稍大些网站来讲也足够使用,比如lvs,nginx。大多数网站都是硬件、软件负载均衡系统并用。
数据库集群系统
结构图:
由于Web前端采用了负载均衡集群结构提高了服务的有效性和扩展性,因此数据库必须也是高可靠的才能保证整个服务体系的高可靠性,如何构建一个高可靠的、可以提供大规模并发处理的数据库体系?
我们可以采用如上图所示的方案:
1) 使用 MySQL 数据库,考虑到Web应用的数据库读多写少的特点,我们主要对读数据库做了优化,提供专用的读数据库和写数据库,在应用程序中实现读操作和写操作分别访问不同的数据库。
2) 使用 MySQL Replication 机制实现快速将主库(写库)的数据库复制到从库(读库)。一个主库对应多个从库,主库数据实时同步到从库。
3) 写数据库有多台,每台都可以提供多个应用共同使用,这样可以解决写库的性能瓶颈问题和单点故障问题。
4) 读数据库有多台,通过负载均衡设备实现负载均衡,从而达到读数据库的高性能、高可靠和高可扩展性。
5) 数据库服务器和应用服务器分离。
6) 从数据库使用BigIP做负载均衡。
缓存系统
缓存分为文件缓存、内存缓存、数据库缓存。在大型Web应用中使用最多且效率最高的是内存缓存。最常用的内存缓存工具是Memcachd。使用正确的缓存系统可以达到实现以下目标:
1、 使用缓存系统可以提高访问效率,提高服务器吞吐能力,改善用户体验。
2、 减轻对数据库及存储集服务器的访问压力
3、Memcached服务器有多台,避免单点故障,提供高可靠性和可扩展性,提高性能。
分布式存储系统
结构图:
WEB系统平台中的存储需求有下面两个特点:
1) 存储量很大,经常会达到单台服务器无法提供的规模,比如相册、视频等应用。因此需要专业的大规模存储系统。
2) 负载均衡cluster中的每个节点都有可能访问任何一个数据对象,每个节点对数据的处理也能被其他节点共享,因此这些节点要操作的数据从逻辑上看只能是一个整体,不是各自独立的数据资源。
因此高性能的分布式存储系统对于大型网站应用来说是非常重要的一环。(这个地方需要加入对某个分布式存储系统的简单介绍。)
分布式服务器管理系统
结构图:
随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,原来基于单机的服务器管理模式已经不能够满足我们的需求,新的需求必须能够集中式的、分组的、批量的、自动化的对服务器进行管理,能够批量化的执行计划任务。
在分布式服务器管理系统软件中有一些比较优秀的软件,其中比较理想的一个是 Cfengine。它可以对服务器进行分组,不同的分组可以分别定制系统配置文件、计划任务等配置。它是基于C/S 结构的,所有的服务器配置和管理脚本程序都保存在Cfengine Server上,而被管理的服务器运行着 Cfengine Client 程序,Cfengine Client通过SSL加密的连接定期的向服务器端发送请求以获取最新的配置文件和管理命令、脚本程序、补丁安装等任务。
有了Cfengine 这种集中式的服务器管理工具,我们就可以高效的实现大规模的服务器集群管理,被管理服务器和 Cfengine Server 可以分布在任何位置,只要网络可以连通就能实现快速自动化的管理。
代码发布系统
结构图:
随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,为了满足集群环境下程序代码的批量分发和更新,我们还需要一个程序代码发布系统。
这个发布系统可以帮我们实现下面的目标:
1) 生产环境的服务器以虚拟主机方式提供服务,不需要开发人员介入维护和直接操作,提供发布系统可以实现不需要登陆服务器就能把程序分发到目标服务器。
2) 我们要实现内部开发、内部测试、生产环境测试、生产环境发布的4个开发阶段的管理,发布系统可以介入各个阶段的代码发布。
3) 我们需要实现源代码管理和版本控制,SVN可以实现该需求。
这里面可以使用常用的工具Rsync,通过开发相应的脚本工具实现服务器集群间代码同步分发。
分享到:
相关推荐
在构建大流量、高并发的网站时,底层系统架构的设计至关重要。这关乎到系统的稳定性、扩展性和性能。本文将深入探讨这一主题,并基于提供的标签"源码"和"工具"来解析相关技术。 首先,一个高并发的系统通常采用...
【大流量、高并发的网站底层系统架构】是针对处理大量用户访问和高并发场景而设计的复杂系统架构。这种架构通常由多个子系统组成,包括Web前端系统、负载均衡系统、数据库集群系统、缓存系统、分布式存储系统以及...
从架构视角来看,秒杀系统本质是一个高性能、高一致、高可用的三高系统。而打造并维护一个超大流量的秒杀系统需要进行哪些关注。本文主要介绍有关于秒杀系统的设计和底层实现原理。 一、通过对需求分析,我们提炼出...
综上所述,互联网平台的高并发技术架构涉及运维、技术、业务等多个层面,需要综合考虑系统的扩展性、容错性、效率和安全性。支付宝通过创新的架构设计和发布策略,成功应对了高并发挑战,为其他互联网企业提供了宝贵...
通过合理的系统架构设计,以及对并发模型、内存管理、服务管理等方面的深入理解与应用,能够有效地应对高并发、高流量的挑战,确保系统的稳定与扩展性。在实际开发中,还需要不断优化和调整系统架构,以适应不断变化...
### 微博短视频百万级高可用、高并发架构设计 #### 一、业务场景与挑战 微博短视频(微博故事)面临着独特的业务挑战:一方面需要处理不可预见的突发流量暴涨,如明星绯闻、爆炸性新闻等事件导致的瞬间流量激增;...
为了满足这些业务场景,系统架构需要具备分布式、高并发、大数据量处理、移动设备兼容以及极强的稳定性和扩展性。下面,我将从不同的维度详细解读这一平台化技术实践所包含的关键知识点。 ### 系统架构的纵向分层 ...
大型动态应用系统平台主要是针对于大流量、高并发网站建立的底层系统架构。大型网站的运行需要一个可靠、安全、可扩展、易维护的应用系统平台做为支撑,以保证网站应用的平稳运行。 大型动态应用系统又可分为几个子...
大型动态应用系统平台主要是针对于大流量、高并发网站建立的底层系统架构。大型网站的运行需要一个可靠、安全、可扩展、易维护的应用系统平台做为支撑,以保证网站应用的平稳运行。大型动态应用系统又可分为几个子...
这对于理解物联网架构、提升Java后端开发技能,尤其是处理高并发场景的能力,具有很大的帮助。同时,这个项目也为物联网行业的从业者提供了一个可复用的解决方案,有助于加快物联网项目的开发进程。
在底层存储方面,由于数据的敏感性和大规模性,微信选择自行开发了一套存储系统,而不是依赖开源技术。这一决策是微信在技术迭代中能够保持独立性和灵活性的关键。 3. 微信后台面临的挑战:随着用户数量的迅速增长...
在应对高并发系统时,确实存在一些通用的解决方案,这些方案旨在提高系统性能、扩展性和容错性。本文将探讨几种常见的策略,并分析它们的优势和劣势。 首先,提升单机性能是基础。优化代码和使用高效的编程语言如C...
现代互联网架构不仅需要满足高并发、低延迟的需求,还要具备良好的可扩展性和容错性。 #### 2. 架构模式 - **微服务架构**:将应用拆分成一组小的服务,每个服务运行在其独立的进程中,服务之间通过轻量级通信机制...
面对如此庞大的图片存储需求,特别是对于高并发场景下的小文件存储与读取,传统存储解决方案难以满足淘宝的需求。这是因为大量的小文件会导致磁盘频繁地进行寻道操作,从而显著增加延迟,降低整体系统的性能。 ####...
随着交易量的持续增长,支付宝的系统必须保证高可用性、高并发处理能力以及数据一致性和系统安全性。在业务快速迭代的过程中,如何做到快速部署、弹性扩展、以及资源的高效利用,成为了支付宝架构设计者必须面对的...
- **高性能**:处理高并发请求的能力。 - **伸缩性**:根据需求动态调整资源的能力。 - **扩展性**:容易添加新功能或组件。 - **降低成本**:通过合理设计减少运维成本。 - **开发测试**:简化开发流程,提高...
为了应对高并发,网站开始采用负载均衡策略,通过多个服务器分摊请求,确保服务的可用性。同时,数据库层面引入主从复制,实现读写分离,提升性能。 五、V5:缓存优化 随着数据量的增长,缓存技术(如Redis)被广泛...