大量并发的应急处理方案与实践2——使用缓存(转)

本文来自CSDN博客，转载请标明出处：http://blog.csdn.net/Dreamcode/archive/2010/05/26/5624429.aspx

 

大量并发的应急处理方案与实践2——使用缓存
    《大量并发的应急处理方案与实践》提供的方法，只能做应急时的一种参考，不推荐在设计之初时使用，设计之初我们应该采用更合理的架构，以避免文中所提及的问题发生，关于架构请参考我的另一篇文章《开餐馆与做软件——如何提高大型网站性能》。
      资源可以分成两种，一种为禁止并发访问的资源，另一种为允许并发访问的资源。禁止并发访问的资源如高速公路收费站，每一个收费口一次只处理一个通过请求，当有多个车辆请求通过时，解决的办法有两种，一种是增设收费口，另一种就是让车辆排队等候，即不马上处理请求，让请求等待空闲资源，我把这种解决办法称作后向异步处理，即将需要处理的请求，延后一段时间处理，这种方法适用于用户不需要看到即使效果的情况。关于“后向异步处理” 的例子请参考《大量并发的应急处理方案与实践1——异步处理》。允许并发访问的资源如商场，任何顾客都可以随时购买需要的商品，早先的大部分商场商品前都有一个柜台，顾客通过售货员购买需要的商品，当顾客增多后，售货员就会应接不暇，让顾客排队是一个办法，但是没有哪个商场会强制顾客排队购买商品，这种“后向异步处理”不适合解决这样的问题，于是一种更好的解决方案产生了——“超市”，取出部分商品直接摆放在售货台上，让顾客自己去取，然后只需要安排一个服务人员随时观察，发现商品不全再到库房中取来相应商品进行补充。
      即将如下流程：
 顾客 -> 售货员1 -> 商品1 -> 付费
 顾客 -> 售货员2 -> 商品2 -> 付费
 顾客 -> 售货员3 -> 商品3 -> 付费
      改造为
 库房 -> 服务员 —> 售货台（缓存）（前向异步处理）
 顾客 -> 商品（1、2、3）->  排队付费（后向异步处理）
      这是一个典型例子，顾客对于付费的请求不需要即时响应，我们可以采用后向异步处理的方法。但是对于查看商品的请求越早满足越好，因此我们采用另一种前向异步处理的办法，将商品（数据）提前放到售货台（缓存）里，这样当顾客（请求）需要的时候可以直接取走。下面我们来看一个你可能会遇到的例子：
      有一天你的老板突然接到电话，客户抱怨说当登录人数增加的时候，页面打开的非常慢，这时老板找到你，你竭尽全力向老板解释，老板用无奈的眼神望着你，对你说:"用户很急，全靠你了。"
      你垂头丧气的走回到座位上，开始一点点排查原因，这时你发现原来这些页面在打开时，伴随大量的数据库操作，
这就是页面打开速度慢的原因。遇到这样的问题，比较简单快速的改造方法就是使用缓存。
      即是将如下结构，
 用户-> 页面与逻辑 -> 数据库
      改造为：
 数据库 -> 监控程序 -> 缓存 （前向异步处理）
 用户-> 页面与逻辑 -> 缓存
 

      举例来说你发现需要加速的页面 test.jsp, 其通过TestDB.java 类获取数据。

    public class TestDB{
                 ...
                // 读取数据库 1
                String sql1 = "..."; //查询语句
                List tmplist1 = queryBySQL(sql1); //queryBySQL 方法，执行sql 语句，执行结果放到一个List 中返回
                ...
                // 读取数据库 2
                String sql2 = "..."; //查询语句
                List tmplist2 = queryBySQL(sql2); //queryBySQL 方法，执行sql 语句，执行结果放到一个List 中返回
                ...
                // 读取数据库 3
                String sql3 = "..."; //查询语句
                List tmplist3 = queryBySQL(sql3); //queryBySQL 方法，执行sql 语句，执行结果放到一个List 中返回
                ...
    }

 

       首先，我们创建一个与页面相对应的缓存模块（例如Buffer）。为需要缓存数据的页面创建一个与之对应的类TestBuffer.java 用来存放数据。必须保证TestBuffer.java 中的数据与数据库中相应数据的一一对应关系，因此我们将TestBuffer.java 设计为一个单例。

    #Buffer
           -- TestBuffer.java

 

     public class TestBuffer{
               private volatile static TestBuffer singleton=null;
               private TestBuffer(){}

               public static TestBuffer getInstance()
              {

                     if(singleton==null){
                           synchronized(TestBuffer.class)
                          {
                                  singleton=new TestBuffer();
                           }
                     }
  
                     return singleton;
              }

     }

 

    我们分析需要加速页面的数据库操作模块，找出所有数据库操作点。例如我们分析TestDB.java ，发现如下数据库
操作点：读取数据库 1、读取数据库 2、读取数据库 3。这三个操作点分别返回三个List 对象，这三个List 对象就是我们要缓存的数据。我们将这三个对象加入到testBuffer.java 中。

     public class TestBuffer{
               private volatile static TestBuffer singleton=null;
               private TestBuffer(){}

               private static List tmplist1 = null
               private static List tmplist2 = null
               private static List tmplist3 = null

 

               public static TestBuffer getInstance()
               {

                       if(singleton==null){
                              synchronized(TestBuffer.class)
                              {
                                     singleton=new TestBuffer();
                              }
                       }
  
                       return singleton;
                }

                public List getTmplist1(){
                      return tmplist1;
                }
 
                public List setTmplist1(List tmplist1){
                      this.tmplist1 = tmplist1;
                }

                public List getTmplist2(){
                      return tmplist2;
                }
 
                public List setTmplist2(List tmplist2){
                      this.tmplist2 = tmplist2;
                }

                public List getTmplist3(){
                      return tmplist3;
                }
 
                public List setTmplist3(List tmplist3){
                     this.tmplist3 = tmplist3;
                }

      }

 

   重新改造原先的数据库访问模块TestDB.java ，更改如下：
  
    public class TestDB{
             ...
           //String sql1 = "..."; //查询语句
           //String sql2 = "..."; //查询语句
           //String sql3 = "..."; //查询语句
           //List tmplist1 = queryBySQL(sql1); //queryBySQL 方法，执行sql 语句，执行结果放到一个List 中返回
           //List tmplist2 = queryBySQL(sql2); //queryBySQL 方法，执行sql 语句，执行结果放到一个List 中返回
           //List tmplist3 = queryBySQL(sql3); //queryBySQL 方法，执行sql 语句，执行结果放到一个List 中返回
 
           List tmplist1 = TestBuffer.getTmplist1();
           List tmplist2 = TestBuffer.getTmplist2();
           List tmplist3 = TestBuffer.getTmplist3();

            ...

    }

 

    然后我们添加从数据库到缓存的前向异步处理模块，即我们实现一个提前运行的监控程序，将数据库中的数据放到缓存中，并保持缓存与数据库中的数据同步，我们可以使用线程实现。

 public class testThread implements Runnable{

           private static long interval = 3000; //循环间隔

           @Override
           public void run(){
                 while(true){
                        ...

                       String sql1 = "..."; //查询语句
                       String sql2 = "..."; //查询语句
                       String sql3 = "..."; //查询语句
                       List tmplist1 = queryBySQL(sql1);
                       TestBuffer.setTmplist1(tmplist1);

 

                       List tmplist2 = queryBySQL(sql2);
                       TestBuffer.setTmplist2(tmplist2);

                       List tmplist3 = queryBySQL(sql3);
                       TestBuffer.setTmplist3(tmplist3);
                        ...

                       try {
                              Thread.sleep(interval);
                       } catch (InterruptedException e) {
                              // TODO Auto-generated catch block
                             e.printStackTrace();
                       }

                }

         }

 }

    以上提供的方法只做您遇到类似问题时的一种参考，是术，方法千变万化而道理不离其宗，合理使用缓存和异步处理是解决这一类问题的核心。