大型网站架构之应用服务器集群化

随着网站的发展，一台应用服务器无法处理太多用户请求，考虑部署多台应用服务器组成集群来提供服务。此时问题来了？

问题1：扩展到多台应用服务器时，可能同一个用户的先后两次请求由不同的应用服务器处理，这个时候不同的应用服务器如何进行session的管理。（应用服务器集群的session管理）
问题2：如何将请求均匀的分发给集群中的应用服务器。（应用服务器集群的负载均衡）

应用服务器集群的session管理：
应用服务器集群的session管理有4种手段：session复制，session绑定，cookie中携带session,session服务器（或服务器集群）。
session复制：当用户在某台应用服务器上首次登陆以后，将它的session复制到集群中其他的应用服务器上。如下图：


session绑定：当用户在某台应用服务器上首次登陆以后，负载均衡设备会记得这台应用服务器，该用户以后的每次请求都会被负载均衡设备派发到这台应用服务器上处理。如下图：


cookie携带session:应用服务器把session封装在cookie中返回给浏览器，以后浏览器的每一次请求，应用服务器都可以从cookie中获得session信息。


session服务器（或集群）：用一个专门的服务器或服务器集群存储session,应用服务器的所用的session都存储在这个服务器上（在实际应用中，session服务器可以利用数据库或分布式缓存系统)。如下图：


解决了应用服务器集群的session管理，应用服务器就成为了“无状态的”：即应用服务器不保存上下文信息，集群中的每台服务器完全对等。请求提交到每一台服务器处理结果都是一样的。我们把这称为应用服务器的无状态性。

应用服务器集群的负载均衡：
应用服务器的无状态性使得负载均衡成为可能。负载均衡有5种手段,分别为：http重定向负载均衡，DNS域名解析负载均衡，反向代理负载均衡，IP负载均衡，数据链路层负载均衡（也成为三角传输模式）。

http重定向负载均衡：


dns域名解析负载均衡：dns域名解析通常作为第一级别的负载均衡手段，通过将请求解析到网站内部的不同的负载均衡服务器，再由这些负载均衡服务器将请求转发到应用服务器上。


反向代理服务器：由于反向代理工作在http层面，因此也叫应用层负载均衡。


IP负载均衡：在网络层通过修改请求报文的目标地址进行负载均衡。LVS的NAT模式就以此种方式工作。


数链层负载均衡：数链层负载均衡分发过程中不修改IP地址，只修改目的MAC地址，通过配置应用服务器的虚拟IP和负载均衡服务器IP相同即可。链路层负载均衡是目前使用最广泛的负载均衡手段，在linux平台下最好的链路层负载均衡产品是LVS(linus virtual server)


通过上面的描述可以了解，只要服务器集群是无状态的，那么就可以通过负载均衡的手段对这个服务器集群进行伸缩。所以，不仅仅是应用服务器集群，服务层的集群也可以通过这样的手段进行伸缩。但是对于分布式缓存系统，他是有状态的，就不能使用这种方案了。详见下一篇博客。