`
liuchaoyong
  • 浏览: 21612 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
社区版块
存档分类
最新评论

转:大型互联网网站架构心得之一

    博客分类:
  • java
阅读更多

我们知道,对于一个大型网站来说,可伸缩性是非常重要的,怎么样在纵向和横向有良好的可伸缩性,就需要在做架构设计的时候考虑到一个分的原则,我想在多个方面说一下怎么分:

首先是横向的分:
1. 大的网站化解为多个小网站:当我们一个网站有多个功能的时候,可以考虑把这个网站拆分成几个小模块,每一个模块可以是一个网站,这样的话我们到时候就可以很灵活地去把这些网站部署到不同的服务器上。
2. 静态动态分离:静态文件和动态文件最好分离开成2个网站,我们知道静态网站和动态网站对服务器来说压力的侧重不同,前者可能重IO后者重CPU,那么我们在选择硬件的时候也可以有侧重,而且静态和动态内容的缓存策略也不一样。典型的应用,我们一般会有独立的文件或图片服务器。
3. 按照功能来分:比如有一个模块是负责上传的,上传操作很消耗时间,如果和其它应用混在一起的话很可能,一点点访问就会使服务器瘫痪,这种特殊的模块应该分开。安全的不安全的也要分开,还需要考虑到以后SSL的购买。
4. 我们不一定要全部用自己的服务器,搜索、报表可以依靠别人的服务,比如google的搜索和报表服务,自己做的不一定比得过别人,服务器带宽都省了。


其次是纵向的分:
1. 文件也相当于数据库,IO的流量可能比数据库还大,这也算是纵向级别的访问,上传的文件图片一定要和WEB服务器分开。当然,数据库和网站都放在一个服务器上的很少了,这是最基本的。
2. 对于涉及到数据库访问的动态程序来说,我们可以使用一个中间层(所谓的应用层或逻辑层)来访问数据库(部署在独立的服务器上),最大的好处就是缓存和灵活性。缓存的内存占用比较大,我们要把它和网站进程分开,而且这样做我们可以很方便的去改变一些数据访问的策略,即使到时候数据库有分布的话在这里可以做一个调配工作,这样灵活性就很大了。还有好处是中间层可以做电线网通桥梁,可能网通访问双线再访问电信会比网通直接访问电信服务器快。


有人说我不分,我可以做负载均衡,对,是可以的,但是如果分的话,同样的10台机器肯定比不分10台机器可以承受更多的访问量,而且对硬件的需求可能不会很高,因为知道需要哪个硬件特别好。争取让每一个服务期都不空闲,又都不是太忙,合理进行组合调整和扩充,这样的系统伸缩性就高了,能根据访问量来调整的前提就是之前有考虑到分,分的好处是灵活性、伸缩性、隔离性以及安全性。

对服务器来说,我们有几点是要长期观察的,任何一点都可能是瓶颈:
1. CPU:动态文件的解析需要比较多的CPU,CPU出现瓶颈就要看是不是哪个功能过长时间占用线程,如果是就分出去。或者就是每一个请求处理时间不长,但是访问量很高,那么就加服务器。CPU是好东西,不能让他干等,不做事情。
2. 内存:缓存从IIS进程独立出去,一般对WEB服务器来说内存不够的情况不是很多。内存比磁盘快,要合理利用。
3. 磁盘IO:用性能监视器找到哪些文件IO特别大,找到了就分到独立的一组文件服务器上去,或者直接做CDN。磁盘慢,大规模读取数据的应用靠缓存,大规模写入数据的应用可以靠队列来降低突发的并发。
4. 网络:我们知道,网络的通讯是比较慢的,比磁盘还慢,如果是做分布式缓存,分布式计算的话,要考虑到物理服务器之间网络通讯的时间,当然,在流量大了以后,这可以提高系统的接纳能力一个等级。静态内容可以借助CSD分担一部分,在做服务器假设的时候还要考虑中国特色的电信网通情况以及防火墙。

对SQL SERVER数据库服务器来说[UPDATE]:
其实还是水平分割和纵向分割,一个二维表,水平分割就是横过来切一刀,纵向分割就是竖直切一刀:
1、纵向分割就是,我们不同的应用可以分到不同的DB中,不同的实例中,或者说把某个拥有很多字段的表拆分成小表。
2、横向分割就是,某些应用可能不负载,比如用户注册,但是用户表会非常大,可以把大表分开。可以采用表分区,数据存储在不同文件上,然后再部署到独立物理服务器增加IO吞吐以改善读写性能,土一点的做法就是自己定期把老的数据存档。表分区的另外一个优势可以增加数据查询速度,因为我们的页索引可以有多层了,就像一个文件夹中的文件不要太多,多分几层文件夹一样。
3、还可以通过数据库镜像、复制订阅、事物日志,把读写分开到不同的镜像物理数据库上,一般来说够用,如果还不行可以用硬件来实现数据库的负载均衡。当然,对于BI,我们可能还会有数据仓库。

架构上考虑到了这些之后,流量大了,就可以在这个的基础上再去调整或者做WEB服务器或者应用服务器的负载均衡。很多时候我们都是在重复发现问题-》找到瓶颈-》解决这个过程。

典型的架构如下:


动态WEB服务器配好点的CPU,静态WEB服务器和文件服务器磁盘好点
应用服务器内存大点,缓存服务器也是,数据库服务器当然内存和CPU都要好

分享到:
评论

相关推荐

    大型互联网网站架构心得

    基于.Net 大型互联网网站架构心得,数据库,图片处理设计

    大型网站架构资源集合

    3. **大型互联网网站架构心得之一分.mht**:这部分内容可能是专家的经验分享,涵盖了大型网站在初期架构设计时需要考虑的要点,如数据存储、用户访问模式、性能优化等。 4. **大型网站架构演变和知识体系.mht**:...

    大型门户网站架构心得

    本文将围绕“大型门户网站架构心得”这一主题,深入探讨其核心理念——“分”,并结合具体实践案例,详细阐述如何通过“分”的原则来优化大型网站的架构设计。 #### 二、横向分原则 ##### 1. 模块化设计 大型网站...

    大型门户网站站架构心得-腾讯-百度-新浪-谷歌网站

    大型门户网站的架构设计是互联网行业中一项复杂而关键的任务,它涉及到如何处理高并发访问、海量数据存储、系统稳定性以及高效能的问题。在这个领域,腾讯、百度、新浪和谷歌等巨头公司的实践经验提供了丰富的学习...

    读书心得--大型分布式网站架构设计与实践(陈康贤)

    《大型分布式网站架构设计与实践》是陈康贤的一本深入探讨分布式系统构建的著作,主要针对互联网行业的架构设计挑战提供了宝贵的实践经验。本书的核心内容涵盖了分布式系统的诸多关键知识点,包括但不限于以下几个...

    非常全面的高性能高并发服务器架构解决方案

    在当前的互联网时代,高性能高并发服务器架构已经成为网站运营商和开发者的必备技术之一。本文将从高性能高并发服务器架构的优化心得、架构设计问题、负载均衡技术、开源平台的高并发集群思考等多方面详细介绍高性能...

    高性能高并发服务器架构

    大型高负载网站服务器优化心得 - **核心策略**: - **负载均衡**:通过负载均衡器分散请求到不同的服务器上,避免单点过载。 - **缓存机制**:利用缓存技术减少数据库访问次数。 - **数据库优化**:合理设计...

    高性能高并发服务器架构大全

     谈谈大型高负载网站服务器的优化心得! 8  Lighttpd+Squid+Apache搭建高效率Web服务器 9  浏览量比较大的网站应该从哪几个方面入手? 17  用负载均衡技术建设高负载站点 20  大型网站的架构设计问题 ...

    网站开发培训心得范文.doc

    【网站开发培训心得】 在网站开发的道路上,培训是一个重要的里程碑。从初识HTML到深入理解Java,再到熟练掌握网页设计和动态网站开发,每个环节都承载着丰富的知识与技能。以下是我对网站开发培训的一些核心知识点...

    大型游戏门户网

    1. **网站架构与设计**:一个大型游戏门户网需要有一个清晰、友好的用户界面,方便用户快速找到所需内容。这包括精心设计的导航栏、分类明确的游戏库、热门推荐、最新资讯等模块。同时,响应式设计确保网站在不同...

    webservice 心得

    ### WebService 心得体会 #### 一、WebService 概述与HTTP协议的应用 ...随着云计算和微服务架构的发展,虽然出现了更多新的服务交互模式,但WebService仍然是构建大型分布式系统时不可或缺的一部分。

    linux学习心得 多年的总结

    这使得Linux不仅能够适应互联网的需求,如Web服务器、DNS、FTP、电子邮件等服务,还能作为小型服务器和大型企业级系统的解决方案。Linux提供了丰富的桌面环境,如KDE和GNOME,以及支持各种编程语言,如C、C++、Perl...

    大型教育资讯门户网源码

    【大型教育资讯门户网源码】是一个专为教育行业设计的网站系统,它集成了丰富的教育资讯、在线学习资源和互动功能,旨在提供一个全面、高效的信息服务平台。这个源码适用于构建大型教育类网站,例如在线课程平台、...

    大型装饰家居建材行业门户网站源代码

    总之,大型装饰家居建材行业门户网站源代码是构建专业行业网站的关键,它集成了多种功能,旨在提供一站式解决方案,满足企业在互联网时代的各种业务需求。选择合适的源代码,结合企业特色进行定制开发,将有助于企业...

    JavaEE学习心得与总结.docx

    JavaEE是Java企业版的简称,它是一种针对大型企业级应用开发的标准和框架。...在互联网行业中,JavaEE因其稳定性和可扩展性,广泛应用于各种大型网站和企业内部系统,是IT专业人员必备的技能之一。

    from coder to expert master.zip

    1. **各大一线互联网全套架构资料.docx**:这可能是一份综合性的文档,包含了众多一线互联网公司如阿里巴巴、腾讯、美团等的系统架构详解,包括它们的技术选型、设计原则和实践经验,对于学习大型互联网公司的架构...

    XX大型电子商务网站初步需求分析(个人接单)

    在进行大型电子商务网站的需求分析时,我们需要关注的关键点主要包括网站的功能设计、用户体验、交易流程以及增值服务等多个方面。以下是对这些核心需求的详细说明: 1. **首页顶部实时信息广告**: 首页作为网站...

Global site tag (gtag.js) - Google Analytics