`

分布式缓存的心得

 
阅读更多

由于工作需要,2年前开始接触分布式的缓存 -- memcache。2年过去了,memcahce也发展了不少,同时也出现许多新星--TT、redis。但万变不离其宗,现将心得总结如下。

 

先说最早的memcache

       这个东西感觉就是个BDB的内存版,就因为是纯内存的程序,所以性能异常的高。现在好像有自己的主页了(http://memcached.org/),记得最早的时候就是danga的个人主页,而且除了一个readme之外就没什么资料了,不过现在这个东西已经遍地开花了。

      关于这个东西里面到底应该存放数据网上一直有很多种说法,有的说sql进行md5之后作为键值,结果作为内容存放,也有人说按照业务逻辑错放,反正是炒的不亦乐乎。

     本人经过将近2年的实践,最后还是觉得要根据业务逻辑来存放,不能将sql加密然后对应结果集存放。这样做,基本上无法实现数据的及时更新,只能依靠memcahce的过期时间来更新。资讯类的静态数据比较合适,不过这种网站一般会做静态化的处理,所以memcache也发挥不了太大用途。真正有用武之地的地方是社区类网站,这类网站大部分是动态数据,而且性能要求还高,所以memcahce比较合适(貌似memcache本来就为了解决这个问题才被创造出来的)。

      如果按照业务来进行存储,很容易控制数据的准确性,一般的程序每种业务都会有自己的底层数据,memcahce部分的操作何以放在这部分代码里。这样对上层程序是透明的,不会将上层的开发工程师搞的晕头转向。

      memcache操作的基本逻辑:先检查在mem中是否存在,如果存在,则返回mem中的数据,如果不存在,根据条件到db中查找相应的结果,然后放入mem中,返回结果(如果mem写入失败,需要记录下日志)。这个逻辑有个弊端就是当缓存失效的时候上层程序没有感觉,结果底层程序一直会访问db,很可能导致db宕机,这就是为什么在mem写入失败的时候要记录日志的原因。以上实现了数据的存储,下面讲数据的更新,当db有insert和update操作的时候,需要根据相应的条件找到与之有关的mem键值,然后删除掉(当然您也可以在这个时候直接将修改后的数据放入mem,不过这样做性能就下降了一倍),当下次再有程序检查这个键值的时候,就会发现键值不存在,然后它会从db中再取一份新的数据出来放入mem。这样就实现了数据的被动更新。

      为什我要把memcache设计成这样一个被动式更新的方式呢?因为这样做最节省资源。看看cdn的缓存方式就明白了,cdn也是一种被动式的缓存,只有当有用户访问到对应的资源是,cdn才会去检查相应的资源是否存在,不存在了去源站取回资源并缓存在自己这里。如果把memcache设计成主动更新的形式,实在是太浪费资源,因为这样做会有很多基本上没有访问的数据被放入了mem,如果想优化,还需要统计数据的使用率,然后才能决定哪部分数据不放入缓存。实现难度太高。

    下面继续深入。存储逻辑清楚了,下面就开始看数据了。大家都知道,不同的业务数据的大小也是不一样的(session的数据基本上都是很小的值,基本上就几十字节,单条用户数据基本不会很大,也就1-3k,资源类的就比较大一点了,相片,投票,分享等基本在1k以上)。为什么说这个呢?这是由memcache的存储机制决定的,memcache存储在内存中的数据并不是有多长存多长的,而是预先定义小的大小,数据优先存放在能够存放的最小的空间里,至于为什么要这样做,大家可以看看memcache的帮助。由于这个实际情况,所以我们必须考虑要存放的数据的实际大小,以免内存被浪费掉(虽然内存都白菜价了,但那也是钱啊)。memcache有个启动参数-f用来控制最小空间的大小,基础空间大小是80b,然后按照80*(1+f)^n这个公式一次计算以后的空间大小。f的默认值是0.25。所以如果存储session数据,那么这个值可以适当的改小,如果存资源类的数据,这个值可以适当的改大,不建议改的太大,那样太浪费空间。其他的参数大家可以看网上的资料就可以学到了,基本上没什难得。

     下面再深入,逻辑清楚了,单个进程也完美的启动了,下面是分布式的问题。memcahce的优势除了性能高之外就是分布式的结构了,这个结构可以让性能进一步的提升。既然要分布式,必然要进行hash运算,确定数据的实际存储位置。最初的memcahce只有一个余数的算法,虽然均匀性很好但是在增加以及减少机器的时候,命中率实在是低的可怜,所以后来出现了Consistent Hashing算法。这部分没什么说的,网上资料一大堆(http://ispring.javaeye.com/blog/221355

   到这里基本上程序已经运行起来了,剩下的是维护工作,经常去看看memcache服务器的状态啦,命中率啦,lru值啦,是否内存块存满啦等等,这个基本上是要和运维配合来做的事情了(因为他们有cacti,^_^)。

 

    memcache基本上没什么了,后来出现TT,也是个很不错的东西,和memcahce一样的协议,还能定时将数据写到硬盘上,很好的解决了memcache宕机丢数据的问题。原来的session数据完全就可以挪到TT里了。

 

   redis,这个是个更不错的东西,memcahce,TT的优点它都有,而且据说还更好。而且还有list和set,list和set解决了很多memcahe解决不了的问题,原来做list只能用memcahce做个伪的,要不然就弄个m4q,再不然找个queue软件,还要装,性能还没有redis好。要不是它现在还不太成熟,就可以将大部分缓存迁移到redis上了。不过redis的作者也偷懒,php的客户端竟然有严重bug!!!而且貌似redis的分布式也没有memcahce好。希望今年redis可以多进步点。

分享到:
评论

相关推荐

    分布式缓存系统Memcached学习心得.zip

    分布式缓存系统在现代Web开发中扮演着至关重要的角色,特别是在处理高并发、大数据量的场景下。Memcached是一款高效、轻量级的分布式内存对象缓存系统,它旨在减轻数据库负载,提升应用性能。本资源针对Memcached的...

    JavaRMI分布式编程心得

    ### Java RMI 分布式编程心得详解 #### 一、Java RMI 分布式编程概述 Java远程方法调用(Remote Method Invocation, RMI)是一种让位于不同Java虚拟机(Java Virtual Machine, JVM)上的对象能够互相调用彼此方法...

    编程之美--微软技术面试心得.zip

    5. **系统设计**:讨论大型系统的架构设计,如负载均衡、分布式缓存、数据库优化、微服务架构等。 6. **编码规范与调试技巧**:强调良好的编程习惯,如何编写可读性高的代码,以及如何有效地定位和修复bug。 7. **...

    读书心得--大型分布式网站架构设计与实践(陈康贤)

    《大型分布式网站架构设计与实践》是陈康贤的一本深入探讨分布式系统构建的著作,主要针对互联网行业的架构设计挑战提供了宝贵的实践经验。本书的核心内容涵盖了分布式系统的诸多关键知识点,包括但不限于以下几个...

    redis学习心得与笔记

    在本篇文章中,我们将深入探讨Redis的学习心得和笔记,聚焦于其作为数据库缓存的角色。 一、Redis基础知识 1. 数据类型:Redis支持五大数据类型,包括字符串(String)、哈希(Hash)、列表(List)、集合(Set)和有序...

    Redis心得笔记.docx

    典型应用:内容缓存,主要用于处理大量数据的高访问负载。数据模型:一系列键值对。优势:快速查询;劣势:存储的数据缺少结构化。 * 列存储数据库:相关产品有 Cassandra, HBase, Riak。典型应用:分布式的文件系统...

    大型门户网站站架构心得-腾讯-百度-新浪-谷歌网站

    为了应对海量用户和数据,网站通常会采用分布式服务、分布式缓存、分布式数据库等技术。比如,百度搜索引擎的分布式爬虫系统能够快速抓取和处理互联网上的信息,而其分布式存储系统则能够支持海量数据的存储和检索。...

    面试心得体会

    面试者需要对分布式系统、微服务架构、负载均衡、数据库设计(如ACID属性、CAP理论)、缓存策略有深入的理解,并能解决高并发、大数据量等问题。 网络知识也是常考项,如TCP/IP协议栈、HTTP/HTTPS协议、网络安全、...

    J2EE Design and Development 学习心得

    本文主要围绕"J2EE Design and Development"的学习心得展开,探讨如何在JavaEE开发中实现高效且具有可扩展性和可维护性的程序架构设计。 分布式系统是现代企业级应用的基石,尤其是在处理大数据量、高并发场景时,...

    redis心得笔记--180202

    - 分布式锁:通过设置过期时间,实现分布式环境下的锁服务。 - 消息队列:使用列表或发布订阅功能作为消息队列,处理异步任务。 4. 实践心得 - 选择合适的数据类型:根据业务需求选择最合适的Redis数据类型,...

    各大网络公司的笔试题目和面试心得

    分布式系统、微服务、负载均衡、缓存策略等是面试中可能遇到的话题。 8. **面试心得**:除了技术知识,面试技巧和心态同样重要。例如,如何清晰地表达思路、如何分析问题、如何展示团队合作精神等软实力,都可能...

    QT087-程序员面试心得PDF电子书

    例如,设计一个负载均衡系统、缓存解决方案,或者解释如何优化数据库查询。这部分内容需要对网络、并发、分布式系统等有深入理解。 在非技术面试部分,书中可能会强调沟通技巧,如如何清晰地表达自己的思想、如何...

    个人博客程序 jfinal blog.zip

    Ehcache是一款开源的Java分布式缓存,它可以极大地提高应用程序的性能,通过缓存频繁访问的数据,减少了对数据库的依赖,提升了系统的响应速度。在jfinal blog中,Ehcache可能用于缓存热门文章、用户信息等,以减少...

    大型门户网站架构心得

    4. **网络通信**:评估网络延迟和带宽限制,特别是在分布式环境中,优化服务器之间的通信效率。 #### 五、数据库服务器优化 针对SQL Server等关系型数据库,可通过以下策略提高性能: 1. **垂直分割**:根据不同...

    高性能高并发服务器架构

    - **Memcached**:分布式缓存系统,用于减轻数据库负担。 - **Redis**:提供持久化的键值存储,支持多种数据结构。 - **消息队列**:如RabbitMQ、Kafka等,用于解耦系统组件。 - **负载均衡**:使用软件或硬件...

    远程网络教学系统设计方案.doc

    为了保证系统的稳定性和高效性,需要考虑负载均衡、缓存策略、数据库优化等方面,例如使用CDN加速静态资源的加载,通过分布式缓存(如Redis)减少数据库访问压力。 七、未来扩展 随着技术的发展,系统可能需要支持...

    基于Spring Boot的研究生志愿填报辅助系统lw+ppt.rar

    进行负载均衡和分布式缓存设计,优化系统性能。 总的来说,基于Spring Boot的研究生志愿填报辅助系统是信息技术与教育领域的一次创新融合,它借助先进的技术和数据分析,为考生提供了科学的决策支持,降低了志愿...

    DB 分库分表项目改造心得

    "DB 分库分表项目改造心得"这个标题暗示了作者在实际操作过程中对数据库优化的一种实践和经验分享。以下是基于这个主题可能涉及的一些重要知识点: 1. **数据库垂直拆分**:垂直拆分是将一个大表按照业务逻辑拆分成...

Global site tag (gtag.js) - Google Analytics