假如目前的系统有100台机器,能够支撑每天1亿的点击量(这个就简单比喻一下),然后系统流量剧变了要,我如何应对,系统有那些策略可以处理,这里总结了一下之前的一些做法。
1、水平扩展
这个最容易理解,加机器,这样的话对于系统刚刚开始的伸缩性设计要求比较高,能够非常灵活的添加机器,来应对流量的变化。
2、系统分组
假如系统服务的业务不同,有优先级高的,有优先级低的,那就让不同的业务调用提前分组好的机器,这样的话在关键时刻,可以保核心业务。
3、系统限流
系统机器也加了,然后分组也做了,但是就是能力提升不上来,说白了就那样了,这时候,可以设置系统的极限能力阀值,例如QPS最大到多少,或者是同时并发的任务有多少,超过这个阀值之后就拒绝提供服务了。
4、业务引流
这个的话跟多的是业务做的事情,把流量引走,不要来请求系统了,一种简单的做法就是,冗余的业务直接隐藏掉链接,从开源节流的角度来想,就是开源。
5、业务降级
如果一个系统请求,涉及到多个逻辑处理,其中有的是可以没有的,就是类似锦上添花的那种,在高并发的情况下,可以通过系统开关的形式,不去做这个请求,这样就间接的提升了系统的能力,毕竟少做了一件事情。
6、依赖系统的能力扩展
如果单独看应用系统,可能东西要做的还真不多,但是要结合上下游的系统,尤其是下游依赖的存储系统,数据库是否能够支持够,分布式缓存是否能够支持够,都需要做好评估。
7、系统依赖梳理
上一条主要是说存储系统,如果本身是SOA的形式,可能会依赖其他系统,各个系统是否强弱依赖,在那个环节依赖了,都需要评估出来,可以人肉来做,也可以系统分析调用情况,来自动的做出来。
8、系统容量评估
系统到底能够撑多少的量,这个要有个客观数字的评估,需要结合系统的负载以及响应时间等数据,搞出一个模型出来,这样方便数字化出来。
9、数据库的读写分离以及主备按照读写比例进行划分
这个在数据库方面可以做优化,跟进系统的读写情况,划分,读写分离,全力保证写,然后如果读的压力太大,可以增加备库来提供读服务。
大体想到了几个点,简单的罗列一下。
相关推荐
【基于Linux集群系统负载平衡下的作业管理策略】 随着高性能计算领域的不断发展,使用Linux集群系统代替昂贵的并行计算平台已经成为趋势。集群系统以其易用性、易伸缩性、易管理性和高性价比受到青睐。然而,为了...
nginx经常用到的负载均衡的5种策略,注意细节,部分属性不能一起使用。
【基于PCC架构的数据业务管控策略研究】 在信息化飞速发展的今天,数据业务已经成为电信运营商的核心业务之一。本文主要探讨了如何通过策略控制与计费(PCC,Policy and Charging Control)架构,来实现对数据业务...
动态负载均衡策略的提出,解决了传统负载均衡算法在实际应用中遇到的挑战,尤其是在云计算环境下,个人和企业级用户无需自己搭建流批数据处理系统,就可以享受到高效、稳定的云服务。同时,这种策略也支持了分布式...
实验结果表明,在满足爬虫节点高性能要求的前提下,提出的负载均衡策略能够有效缩短分布式爬虫的运行时间,从而提升系统的整体运行效率。 关键词“均衡”、“预测”、“粒子群优化算法”、“约束条件”都指向了...
分布式系统中的节点负载动态平衡策略是一项重要的技术,它关乎整个系统的性能和计算效率。本文主要研究了一种新的、半分布半集中式的动态负载分配模型,旨在优化现有的算法,提高资源利用率,减少节点间的通信开销,...
数据分析与挖掘是IT行业中至关重要的领域,特别是在应用系统负载分析与容量预测方面。这个主题主要关注如何通过MATLAB、R语言、SAS或SPSS等工具来理解和预测系统的性能状态,以确保系统的稳定运行。 首先,应用系统...
【Linux环境下基于策略路由实现多线路负载均衡】 随着互联网的快速发展,越来越多的企业和个人需要通过多个网络出口接入Internet,以提高网络带宽和效率。在Linux操作系统中,利用策略路由(Policy Routing)可以...
本文介绍了一种改进的分布式系统负载平衡策略,该策略通过运用模糊综合评判理论对服务器性能进行综合评估,从而选出最佳服务器进行任务分配,最终实现负载均衡。 模糊综合评判是一种基于模糊数学的评价方法,能够...
天融信负载均衡系统是一款高性能的负载均衡解决方案,旨在帮助企业快速构建高可用、高性能的应用系统。该系统采用先进的负载均衡算法,能够智能地将流量分布到多个服务器上,从而提高系统的整体性能和可用性。 三、...
负载平衡系统的基本工作原理是接收来自用户的请求,然后根据预设的策略将这些请求分发到后端的服务器集群中。这样,任何一台服务器都不会因为过量的请求而过载,同时,如果某台服务器出现故障,其他健康的服务器可以...
在选择负载均衡策略时,需要综合考虑系统需求、性能要求、成本和复杂性等因素。对于那些需要处理大量并发连接且预算有限的项目,LVS是一个理想的选择。而Haproxy、BigIp(F5)、A10(IBM)、Citrix(Netscaler)等硬件或...
通过对Zomaya遗传算法的改进,设计了针对即时通讯...最后通过仿真试验的结果证明,该负载均衡策略能够较好地解决在大任务量的情况下,即时通讯系统中异构节点间的负载平衡问题,提高系统的整体处理能力、反应速度和稳定性。
负载均衡是一种技术,用于在多台服务器之间有效地分配网络流量和服务请求,以优化资源利用、增强服务可用性、防止过载并提高整体系统的响应速度。本文深入探讨了各种负载均衡策略,帮助读者理解如何根据不同的场景和...
本文主要探讨了在Linux系统下实现多出口流量控制器的负载均衡策略。 1. Linux系统流量控制模块基础 流量控制模块是Linux系统中用于满足用户对服务质量需求的关键组件。其主要任务包括用户带宽和服务等级的管理,...
尽管如此,策略路由结合带宽合并和负载均衡技术为Linux下的网络管理提供了极大的灵活性和可控性。通过合理配置和优化,可以使网络架构更加高效、稳定,更好地适应日益增长和多变的网络需求。论文在最后讨论了这些...
分布式系统是一种由多个分散的、独立的计算单元组成的系统,这些计算单元通过网络相互协作完成共同的任务。...同时,本研究还提供了关于如何在系统高负载状态下,通过负载均衡策略优化系统性能的理论基础和实践经验。