大家争论的比较多的一个技术点是接入层负载均衡技术,部分同学持这样的观点:
1)nginx前端加入lvs和keepalived可以替代“DNS轮询”
2)F5能搞定接入层高可用、扩展性、负载均衡,可以替代“DNS轮询”
“DNS轮询”究竟是不是过时的技术,是不是可以被其他方案替代,接入层架构技术演进,是本文将要细致讨论的内容。(水平的机器拓展)
一、问题域
nginx、lvs、keepalived、f5、DNS轮询,每每提到这些技术,往往讨论的是接入层的这样几个问题:
1)可用性:任何一台机器挂了,服务受不受影响
2)扩展性:能否通过增加机器,扩充系统的性能
3)反向代理+负载均衡:请求是否均匀分摊到后端的操作单元执行
二、上面那些名词都是干嘛的
由于每个技术人的背景和知识域不同,上面那些名词缩写(运维的同学再熟悉不过了),还是花1分钟简单说明一下(详细请自行“百度”):
1)nginx:一个高性能的web-server和实施反向代理的软件
2)lvs:Linux Virtual Server,使用集群技术,实现在linux操作系统层面的一个高性能、高可用、负载均衡服务器
3)keepalived:一款用来检测服务状态存活性的软件,常用来做高可用
4)f5:一个高性能、高可用、负载均衡的硬件设备(听上去和lvs功能差不多?)
5)DNS轮询:通过在DNS-server上对一个域名设置多个ip解析,来扩充web-server性能及实施负载均衡的技术
三、接入层技术演进
【裸奔时代(0)单机架构】
裸奔时代的架构图如上:
1)浏览器通过DNS-server,域名解析到ip
2)浏览器通过ip访问web-server
缺点:
1)非高可用,web-server挂了整个系统就挂了
2)扩展性差,当吞吐量达到web-server上限时,无法扩容
注:单机不涉及负载均衡的问题
【简易扩容方案(1)DNS轮询】
假设tomcat的吞吐量是1000次每秒,当系统总吞吐量达到3000时,如何扩容是首先要解决的问题,DNS轮询是一个很容易想到的方案:
此时的架构图如上:
1)多部署几份web-server,1个tomcat抗1000,部署3个tomcat就能抗3000
2)在DNS-server层面,域名每次解析到不同的ip
优点:
1)零成本:在DNS-server上多配几个ip即可,功能也不收费
2)部署简单:多部署几个web-server即可,原系统架构不需要做任何改造
3)负载均衡:变成了多机,但负载基本是均衡的
缺点:
1)非高可用:DNS-server只负责域名解析ip,这个ip对应的服务是否可用,DNS-server是不保证的,假设有一个web-server挂了,部分服务会受到影响
2)扩容非实时:DNS解析有一个生效周期
3)暴露了太多的外网ip
【简易扩容方案(2)nginx】
tomcat的性能较差,但nginx作为反向代理的性能就强多了,假设线上跑到1w,就比tomcat高了10倍,可以利用这个特性来做扩容:
此时的架构图如上:
1)站点层与浏览器层之间加入了一个反向代理层,利用高性能的nginx来做反向代理
2)nginx将http请求分发给后端多个web-server
优点:
1)DNS-server不需要动
2)负载均衡:通过nginx来保证
3)只暴露一个外网ip,nginx->tomcat之间使用内网访问
4)扩容实时:nginx内部可控,随时增加web-server随时实时扩容
5)能够保证站点层的可用性:任何一台tomcat挂了,nginx可以将流量迁移到其他tomcat
缺点:
1)时延增加+架构更复杂了:中间多加了一个反向代理层
2)反向代理层成了单点,非高可用:tomcat挂了不影响服务,nginx挂了怎么办?
【高可用方案(3)keepalived】
为了解决高可用的问题,keepalived出场了(之前的文章“使用shadow-master保证系统可用性”详细介绍过):
此时:
1)做两台nginx组成一个集群,分别部署上keepalived,设置成相同的虚IP,保证nginx的高可用
2)当一台nginx挂了,keepalived能够探测到,并将流量自动迁移到另一台nginx上,整个过程对调用方透明优点:
1)解决了高可用的问题
缺点:
1)资源利用率只有50%
2)nginx仍然是接入单点,如果接入吞吐量超过的nginx的性能上限怎么办,例如qps达到了50000咧?
【scale up扩容方案(4)lvs/f5】
nginx毕竟是软件,性能比tomcat好,但总有个上限,超出了上限,还是扛不住。
lvs就不一样了,它实施在操作系统层面;f5的性能又更好了,它实施在硬件层面;它们性能比nginx好很多,例如每秒可以抗10w,这样可以利用他们来扩容,常见的架构图如下:
此时:
1)如果通过nginx可以扩展多个tomcat一样,可以通过lvs来扩展多个nginx
2)通过keepalived+VIP的方案可以保证可用性
99.9999%的公司到这一步基本就能解决接入层高可用、扩展性、负载均衡的问题。
这就完美了嘛?还有潜在问题么?
好吧,不管是使用lvs还是f5,这些都是scale up的方案,根本上,lvs/f5还是会有性能上限,假设每秒能处理10w的请求,一天也只能处理80亿的请求(10w秒吞吐量*8w秒),那万一系统的日PV超过80亿怎么办呢?(好吧,没几个公司要考虑这个问题)
【scale out扩容方案(5)DNS轮询】
如之前文章所述,水平扩展,才是解决性能问题的根本方案,能够通过加机器扩充性能的方案才具备最好的扩展性。
facebook,google,baidu的PV是不是超过80亿呢,它们的域名只对应一个ip么,终点又是起点,还是得通过DNS轮询来进行扩容:
此时:
1)通过DNS轮询来线性扩展入口lvs层的性能
2)通过keepalived来保证高可用
3)通过lvs来扩展多个nginx
4)通过nginx来做负载均衡,业务七层路由
四、结论
聊了这么多,稍微做一个简要的总结:
1)接入层架构要考虑的问题域为:高可用、扩展性、反向代理+扩展均衡
2)nginx、keepalived、lvs、f5可以很好的解决高可用、扩展性、反向代理+扩展均衡的问题
3)水平扩展scale out是解决扩展性问题的根本方案,DNS轮询是不能完全被nginx/lvs/f5所替代的
前端购买了SLB服务(可以先粗暴的认为是一个lvs+keepalived的高可用负载均衡服务),后端是nginx+tomcat。
相关推荐
[lvs为何不能完全替代DNS轮询] () 2018.09.08 [20个必不可少的Python库] () [基于Docker的RDS,我们是这样做的] () 2018.09.04 [七年编程,几个故事] () 2018.09.03 [虚拟化技术在淘宝] () 2018.09.02 [高并发的隔离...
[lvs为何不能完全替代DNS轮询] () 2016.09.18 [20个必不可少的Python库] () [基于Docker的RDS,我们是这样做的] () 2016.09.14 [七年编程,几个故事] () 2016.09.13 [虚拟化技术在淘宝] () 2016.09.12 [高并发的隔离...
LVS为何不能完全替代DNS轮询** - **比较**: LVS是一种基于Linux内核的虚拟服务器解决方案。 - **局限性**: 在动态调整服务器权重方面不如DNS灵活。 - **应用场景**: 通常用于内部网络或私有云环境。 **9. 究竟啥才...
但它的缺点是没有检测机制,不能实现均衡,容错反应时间长。国内门户网站经常使用这种技术,配合 squid 代理服务器,可以实现很好的效果。 四、CDN(Content Delivery Network) CDN 是内容分发网络,可以提供缓存...
3. **MAC 地址替换**:LVS 将请求的目标 MAC 地址替换为所选 Real Server 的 MAC 地址,并将请求直接转发给该 Real Server。 4. **Real Server 处理请求**:Real Server 处理请求后,直接将响应发送回客户端,而...
由于文章内容过于丰富,我们将按照标题和描述的要求,详细解释LVS替代F5实例的分析,并涉及F5的工作模式、LVS的工作模式与原理、实例配置以及总结。 ### F5负载均衡器 F5是市场上知名的硬件负载均衡设备,尤其在...
然而,它有一些限制,如不考虑服务器的实际负载情况,且更改DNS记录可能需要缓存刷新时间,这可能导致短暂的服务中断。 CTDB(Cluster Trivial Database)是一个集群文件系统,用于创建共享存储的高可用性环境。...
### LVS实例讲解及分析 #### 一、负载均衡概念详解 ...LVS支持多种负载调度算法,包括但不限于轮询、最少连接、目标地址散列等。通过合理配置和优化,LVS可以有效提升整个系统的负载承载能力和响应效率。
LVS,全称为Linux Virtual Server,是基于Linux操作系统的高性能、高可用的网络服务器群集技术。它通过将多台物理服务器虚拟化为一个整体,实现了网络层的负载均衡,提高了服务的稳定性和效率。本资料包包含了一系列...
2. 验证完成后,检查LVS报告中的对比信息,如果没有任何错误,则表示电路布局与原理图完全一致。 3. 若存在差异或错误,需根据报告中的提示信息,逐一排查并修正问题。 #### LVS验证的关键点 - **一致性验证**:...
在实际应用中,LVS可以结合Keepalived实现高可用性,当主LVS节点故障时,备节点可以自动接管服务,保证系统的不间断运行。同时,LVS还可以与NAT(网络地址转换)或DR(直接路由)模式配合,实现不同网络拓扑下的负载...
### LVS 实现负载均衡详解 #### 一、LVS简介与重要性 LVS (Linux Virtual Server) 是一种在 Linux 平台上实现负载均衡的技术。它可以有效地将大量的网络请求分发到多个后端服务器上处理,从而提高系统的整体响应...
通过深入学习和分析LVS源码,不仅可以掌握LVS的内部工作机制,还能了解如何根据具体需求定制和扩展LVS,提升网络服务的稳定性和效率。对于运维人员和系统架构师来说,理解并掌握LVS的使用和优化技巧,对构建高效、...
LVS安装与配置入门与详解 LVS(Linux Virtual Server)是一种开源的负载均衡器,可以将多个服务器组成一个虚拟服务器,提供高可用性和高性能的服务。LVS的安装与配置是一个复杂的过程,本文将详细介绍LVS的安装与...
LVS支持多种调度算法,如轮询、最少连接、哈希等,以满足不同场景的需求。 **三、LVS的应用** 1. **网站服务**:通过LVS可以实现多个Web服务器之间的负载均衡,提升网站的访问速度和稳定性,同时降低单台服务器的...
1. **高可用性**:LVS能有效分散负载,提高系统整体的可用性和稳定性。 2. **扩展性强**:易于添加或删除后端服务器,适应业务规模的变化。 3. **性能高效**:由于LVS主要在内核空间进行操作,其处理速度和效率...