`

Memcache mutex设计模式

 
阅读更多

http://timyang.net/programming/memcache-mutex/

 

周六的S2 Web 2.0技术沙龙上介绍了memcache中使用mutex场景(文后要演讲稿),有网友对详情感兴趣,简单介绍如下。

场景

Mutex主要用于有大量并发访问并存在cache过期的场合,如

  • 首页top 10, 由数据库加载到memcache缓存n分钟
  • 微博中名人的content cache, 一旦不存在会大量请求不能命中并加载数据库
  • 需要执行多个IO操作生成的数据存在cache中, 比如查询db多次

问题

在大并发的场合,当cache失效时,大量并发同时取不到cache,会同一瞬间去访问db并回设cache,可能会给系统带来潜在的超负荷风险。我们曾经在线上系统出现过类似故障

解决方法

方法一
在load db之前先add一个mutex key, mutex key add成功之后再去做加载db, 如果add失败则sleep之后重试读取原cache数据。为了防止死锁,mutex key也需要设置过期时间。伪代码如下
(注:下文伪代码仅供了解思路,可能存在bug,欢迎随时指出。)

if (memcache.get(key) == null) {
    // 3 min timeout to avoid mutex holder crash
    if (memcache.add(key_mutex, 3 * 60 * 1000) == true) {
        value = db.get(key);
        memcache.set(key, value);
        memcache.delete(key_mutex);
    } else {
        sleep(50);
        retry();
    }
}

方法二
在value内部设置1个超时值(timeout1), timeout1比实际的memcache timeout(timeout2)小。当从cache读取到timeout1发现它已经过期时候,马上延长timeout1并重新设置到cache。然后再从数据库加载数据并设置到cache中。伪代码如下

v = memcache.get(key);
if (v == null) {
    if (memcache.add(key_mutex, 3 * 60 * 1000) == true) {
        value = db.get(key);
        memcache.set(key, value);
        memcache.delete(key_mutex);
    } else {
        sleep(50);
        retry();
    }
} else {
    if (v.timeout <= now()) {
        if (memcache.add(key_mutex, 3 * 60 * 1000) == true) {
            // extend the timeout for other threads
            v.timeout += 3 * 60 * 1000;
            memcache.set(key, v, KEY_TIMEOUT * 2);

            // load the latest value from db
            v = db.get(key);
            v.timeout = KEY_TIMEOUT;
            memcache.set(key, value, KEY_TIMEOUT * 2);
            memcache.delete(key_mutex);
        } else {
            sleep(50);
            retry();
        }
    }
}

相对于方案一
优点:避免cache失效时刻大量请求获取不到mutex并进行sleep
缺点:代码复杂性增大,因此一般场合用方案一也已经足够。

方案二在Memcached FAQ中也有详细介绍 How to prevent clobbering updates, stampeding requests,并且Brad还介绍了用他另外一个得意的工具 Gearman 来实现单实例设置cache的方法,见 Cache miss stampedes,不过用Gearman来解决就感觉就有点奇技淫巧了。

附:本次Web2.0技术沙龙演讲主题:微博Cache设计谈,需下载请点击演讲稿下menu/download (需登录slideshare)。

分享到:
评论

相关推荐

    memcache1.2.1 for windows

    标题"memcache1.2.1 for windows"指的是Memcache的1.2.1版本,这是专为Windows操作系统设计的一个内存缓存系统。Memcache是一个广泛使用的开源高性能分布式内存对象缓存系统,它能够通过在内存中存储数据来减少对...

    设计模式之PHP项目应用——单例模式设计Memcache和Redis操作类源码

    1)程序功能:单例模式设计Memcache和Redis操作类,采用PHP编写。 2)程序详解地址:http://blog.csdn.net/clevercode/article/details/46410055。 3)原创作品,出自"CleverCode的博客",分类为《设计模式之PHP项目...

    【汇总】Memcache

    它的设计目标是提供一个轻量级的解决方案,用于临时存储热数据,以减少对持久存储(如数据库)的访问。 ### 二、工作原理 1. **Key-Value存储**:Memcache基于键值对的存储方式,每个缓存项都有一个唯一的键,对应...

    memcache安装与基本操作详解

    ### Memcache安装与基本操作详解 #### 一、前言 Memcache是一种高性能的分布式内存对象缓存系统,用于加速动态Web应用,减轻数据库负担。本文将详细介绍如何安装配置Memcache,并提供基本的操作示例。 #### 二、...

    Memcache win版 服务器和.net驱动

    Memcache是一款高性能的分布式内存缓存系统,它最初是为了解决Web应用程序的数据库负载问题而设计的。通过将数据存储在内存中,Memcache能够快速地提供数据,减少对数据库的访问,从而提高应用性能。在Windows平台上...

    windows下安装memcache

    在Windows环境下安装Memcache是一个相对较为特殊的操作,因为Memcache主要设计用于Unix/Linux系统,但通过一些工具和步骤,我们也可以在Windows上实现这一过程。本文将详细介绍在Windows上安装Memcache的步骤,并...

    php 5.4.15 64位 memcache.dll

    标签 "php5.4 64位 memcache.dll" 明确了这个扩展适用于 PHP 5.4 版本,且为64位操作系统设计。这对于那些运行64位环境并使用 PHP 5.4 的开发者来说特别有价值,因为不同的操作系统位宽和 PHP 版本可能需要特定的...

    PHP7.x 8.0 memcache dll php_memcache.dll

    memcache是广泛应用于Web开发中的一个内存对象缓存系统,它能够提高网站性能,通过将数据存储在内存中,减少对数据库的访问,从而加快数据读取速度。 PHP的memcache扩展允许开发者在PHP应用程序中与memcached服务器...

    memcache安装php5.2.17的php_memcache.dll

    Memcache是一种广泛使用的分布式内存对象缓存系统,它可以在服务器集群间通过网络共享小块内存,从而提升应用程序的性能,减少数据库负载。在PHP中,我们通常使用php_memcache.dll扩展来与Memcache服务器进行交互。...

    PHP memcache 多版本拓展

    $memcache = new Memcache; // 连接到Memcached服务器 $memcache-&gt;connect('localhost', 11211) or die("无法连接"); // 存储数据 $memcache-&gt;set('key', 'value', 0, 60); // key是键,value是值,0表示非持久化...

    memcache_php使用测试

    **memcache**模块作为高效内存缓存的守护进程,提供了程序式和面向对象的接口,尤其在设计动态Web程序时,它能够显著减少对数据库的直接访问,从而提升应用性能。此外,memcache还支持通信对话(session_handler)的...

    Memcache原理及实现

    【Memcache原理及实现】 Memcache,全称Memcached,是一种高性能的分布式内存对象缓存系统,主要用于减轻数据库的负载。它将数据存储在内存中,以键值对的形式提供快速访问,尤其适用于高并发场景。Memcache最初由...

    window 7memcache安装组件

    Memcache是一种高性能的分布式内存对象缓存系统,它能够减轻数据库负载,加快动态网页的响应速度。以下将详细介绍如何在Windows 7环境下安装和使用Memcache。 首先,你需要确保你的计算机上已经安装了PHP环境。这里...

    memcache图形监控工具phpmemcache

    memcache图形监控工具phpmemcache,尽是一个PHP文件就可以实现对memcache的监控。 使用方法:本地测试监控机安装Apache或者下载XAMPP(Apache+MySQL+PHP+PERL),安装后把memcachephp.zip中的memcache.php文件放到...

    Windows_Memcache安装(XAMPP+Memcache+PHP)

    面向对象的常用接口包括Memcache::connect(打开连接)、Memcache::pconnect(打开长连接)、Memcache::close(关闭连接)、Memcache::set(保存数据)、Memcache::get(提取数据)、Memcache::replace(替换数据)...

    windows本地开启memcache服务

    这个命令会将Memcache注册为一个Windows服务, `-d` 参数表示以服务模式运行,`install` 参数则是安装服务。 2. **启动Memcache服务**: - 安装完成后,你可以通过`memcached.exe -d start`命令启动Memcache服务。...

    php7.2 memcache.dll

    "TS"和"NTS"是PHP扩展的两种编译模式,TS版的扩展适用于多线程环境,如ISAPI在IIS上运行,而NTS版适用于单线程环境,如FastCGI在Apache上运行。"rar5"压缩格式则表明这些文件是使用RAR 5.0标准进行压缩的,这是RAR...

    spring memcache 集成使用

    ### Spring与Memcache集成知识点详解 #### 一、Spring与Memcache简介 - **Spring**:Spring框架是Java平台上的一个开源应用框架,提供了一种简单的方式来管理对象生命周期以及依赖关系,同时也支持AOP(面向切面...

    memcache win7 64位 安装文件

    标题中的"memcache win7 64位 安装文件"指的是专为64位Windows 7系统设计的Memcache安装程序,包含必要的DLL文件。在下载这个压缩包后,我们需要进行以下步骤来完成安装: 1. **解压文件**:将下载的压缩包解压到...

    memcache安装包,memcache

    memcache是一套分布式的高速缓存系统,由LiveJournal的Brad Fitzpatrick开发,但目前被许多网站使用以提升网站的访问速度,尤其对于一些大型的、需要频繁访问数据库的网站访问。

Global site tag (gtag.js) - Google Analytics