大型网站架构之分布式缓存

缓存是优化网站性能的第一手段。在大型网站中，缓存通常用来保存热点数据，或者保存应用上下文相关信息。比如之前提到的session服务器集群就可以用分布式缓存来搭建。当然，分布式缓存还可用于缓存数据库中的热点数据以减轻数据库的压力。

分布式缓存的架构方式通常有两种：一种是以JBoss为代表的需要同步的分布式缓存，一种是一MemCached为代表的不互相通信的分布式缓存。

JBoss在所有服务器中保存相同的缓存数据，当一台服务器的数据有更新时，会同步到其他的服务器。这种所有服务器都保存相同数据的方式导致JBoss的缓存容量有限，而且同步的代价会随着服务器数量的增加而增大。因此这种方案很少在大型网站中使用。JBoss通常将应用服务器和缓存部署在同一台服务器上，如下图：


MemCached采用一种互不通信的分布式架构，每个服务器中缓存的数据不相同。应用服务器通过一致性hash等路由算法确定数据所在位置后进行访问，缓存服务器之间互不通信，具有很好的扩展性。如下图：


下面重点说下在MemCached中使用的路由算法，由于MemCached集群中不同服务器缓存的数据不同，因此应用服务器访问数据之前需要先通过路由算法确定数据所在的缓存服务器。最容易想到的路由算法是余数hash，但是在缓存系统需要扩容时，余数hash是不可用的。

比如例子：原来有3台节点，对应的hash值为0，1，2，现在增加一台节点后变为4台节点，对应的hash值为0，1，2，3。那么0-11这12个原来已经缓存的数据，在加入新节点后的可用率为25%。就是说，向缓存系统中新加入一个节点之后，原来缓存的大部分数据变得无不可用了。这个现象在大型网站架构中是可怕的，因为新加入节点后造成的缓存低可用将导致数据库压力增大甚至有可能造成网站事故。
因此，我们把向缓存系统中添加节点之后，能够保证已经缓存的数据仍然有效作为分布式缓存中路由算法的主要设计目标。为此，有一致性hash算法。

一致性hash算法：
先构造一个长度为2^32的整数环，根据节点名称的hash值（其分布范围为0～2^32-1）将缓存服务器的节点放置在这个hash环上。计算需要缓存的数据的hash值（其分布范围为0～2^32-1），然后在hash环上顺时针找距离这个hash值最近的缓存服务器节点，就是数据要缓存的目标节点。如图：


一致性hash算法，有一个小小的问题。当向缓存中添加一个新的节点之后，根据一致性hash算法的规则，新添加的节点仅仅能够减轻一台原有服务器的压力，如下图：新添加的节点Node3只能缓解Node1的压力，而无法缓解Node0和Node2的压力。


上面提到的添加新节点后负载不均衡的问题可以通过虚拟的手段来解决：将每台物理服务器虚拟为一组虚拟服务器，之后将这组虚拟服务器放到hash环上。采用一致性hash算法找到虚拟服务器，该虚拟服务器对应的物理服务器就是目标节点。如图：

在实践中，一台物理服务器一般虚拟为一组150个虚拟服务器，具体情况再改动。