http://donlianli.iteye.com/blog/1897642
如果你感觉到缓存的重要性,那么,恭喜你,你的技术水平已经从初级上升了一个层次,意识到性能的重要性。你不再仅限于完成用户提出的功能,而是更注重提高系统的性能和软件的质量了。但是,仅仅在软件中随便加一个memcache或者osCache包就以为能够解决性能问题的话,那你就大错特错了。缓存只是提高性能一小步,提高性能更多是从设计层次来提高,但必有的编程技巧也是解决性能问题的一个主要因素。
本文章主要从如何查询及构建缓存开始,主要参考了Java Concurrency In Practice的一些章节,及网上的一些资料,结合实际的项目,做了一些应用。
首先,你一般设置缓存是否是这样写的呢?
- //计算缓存的key
- String cacheKey = getCacheKey(param1,param2);
- //查询memcached
- List<Long> list = (List<Long>)memcached.get(cacheKey);
- if(list == null){
- //memcache 已经失效或者不存在,去查询数据库
- list = getFromDB(param1,param2);
- memcached.set(list,5*60);
- return list;
- }
这个方法在并发小的时候,应该不存在问题,但是当是一个高并发的系统时,那么这样的写法可能会导致缓存失效时,向数据库发起多个查询,然后查询完之后,还要向memcache Set多次。为什么,因为在如果同时过来10个请求,都发现缓存中没有数据(list == null),那么就都会去查询数据库,然后直到其中一个最先获得结果的线程,将结果设置到memcache,之后到来的线程,才会走缓存,但已经进来的线程,则还会继续查数据库,然后再将结果设置到memcache,这显然是我们不想看到的。那么如何处理呢,在方法上面加synchronized锁?开销太大。
这时,我们可以看看专家的意见,在设计高效的线程安全的缓存--JCIP5.6读书笔记 中讲了一种方法,可以既可以不使用锁,又保证多个线程同时请求时只有一个线程会访问数据库执行查询,其他线程都只读取计算结果的方法。如果你对里面讲的内容一头雾水的话,那么,你可以看看我写的这个示例,你只需要构建一个自己的Callable类,就能正确的设置与读取缓存。
假设concurrentService是一个先读缓存,没有缓存则读取数据库的方法,其代码如下:
- public List<Long> concurrentService(int para1,int param2){
- long beginTime = System.nanoTime();
- final String cacheKey = "IamKey";
- List<Long> list = (List<Long>)memCachedClient.get(cacheKey);
- if(list == null){
- Callable<Object> caller = new Callable<Object>() {
- public Object call() throws InterruptedException {
- System.out.println(" go to dao or rmi");
- List<Long> list = new ArrayList<Long>();
- list.add(1l);list.add(2l);
- //将计算结果缓存
- System.out.println("结果计算完毕,存入分布式缓存中");
- memCachedClient.set(cacheKey, 5*60, list);
- / Thread.sleep(500);
- //计算结果,通常是访问数据库或者远程服务
- return list;
- }
- };
- List<Long> result = (List<Long>)TaskUtils.getInTask(cacheKey,caller);
- long end = System.nanoTime();
- useTimes.add(end-beginTime);
- return result;
- }
- else {
- System.out.println("1.缓存命中,直接返回");
- long end = System.nanoTime();
- useTimes.add(end-beginTime);
- return list;
- }
- }
其中的TaskUtils.getInTask定义如下:
- import java.util.concurrent.Callable;
- import java.util.concurrent.ConcurrentHashMap;
- import java.util.concurrent.ConcurrentMap;
- import java.util.concurrent.FutureTask;
- public class TaskUtils {
- private static final ConcurrentMap<String, FutureTask<Object>> cache = new ConcurrentHashMap<String, FutureTask<Object>>();
- public static Object getInTask(String cacheKey, Callable<Object> caller) {
- System.out.println("1.缓存未命中,将查询数据库或者调用远程服务");
- //未命中缓存,开始计算
- FutureTask<Object> f = cache.get(cacheKey);
- if (f == null) {
- FutureTask<Object> ft = new FutureTask<Object>(caller);
- f = cache.putIfAbsent(cacheKey, ft);
- if (f == null) {
- System.out.println("2.任务未命中,将查询数据库或者调用远程服务");
- f = ft;
- ft.run();
- }
- }
- else {
- System.out.println("2.任务命中,直接从缓存取结果");
- }
- try {
- Object result = f.get();
- System.out.println("取回的结果result:"+result);
- return result;
- } catch (Exception e) {
- e.printStackTrace();
- }
- finally{
- //最后将计算任务去掉,虽然已经移除任务对象,但其他线程
- //仍然能够获取到计算的结果,直到所有引用都失效,被垃圾回收掉
- boolean success = cache.remove(cacheKey,f);
- System.out.println(success);
- }
- return null;
- }
- }
经过测试,使用这种方法读取与设置缓存,比使用synchronized方法和锁定键值的方法要快3-10倍,不信大家可以试试。
有人可能有疑问,如果并发的线程很多,同时都没有命中缓存,那么不就会产生很多Callable<Object>对象吗?这样岂不会浪费很大内存吗?其实,我们仔细分析一下代码,可以看到Callable对象不管创建了多少,但最终经过putIfAbsent方法之后,就留下了一个有效的对象,其他的对象都成为失效对象,随时可以被GC掉。因此,使用这种方法,并不会造成JVM的内存溢出。
另外,Callable<Object>就是一个普通的对象,跟线程一点关系都没有,里面虽然包括了一个runnable方法,但是并不是说这个会启动一个线程。里面的runnable方法在本代码中是在调用者线程中执行,但执行结果共享给了其他没有命中缓存的线程。
赶紧回去review你们项目的代码吧,你们设置缓存的方式对吗?
实际上这个TaskUtil的方法只是使用了两个重要的并发工具类,一个是ConcurrentMap,主要支持并发中经常使用的putIfAbsent方法,和一个FutureTask对象,这个对象的get方法能够阻塞调用者线程,直到结果可用。
对这类话题感兴趣?欢迎发送邮件至donlianli@126.com
关于我:邯郸人,擅长Java,Javascript,Extjs,oracle sql。
更多我之前的文章,可以访问:http://hi.baidu.com/donlian
相关推荐
### 电脑知识:让系统快步如飞——正确设置Windows缓存 在计算机科学领域,缓存技术是一种广泛采用的方法,用于提高数据访问速度并减少系统延迟。通过将频繁访问的数据存储在更快的存储介质中(通常是内存),可以...
1. 缓存策略不当:如果缓存策略设置不合理,如写缓存策略设置为“回写”模式,而在断电或异常关机时,未写入的数据可能会丢失,导致系统性能下降。 2. 缓存容量不足:如果缓存大小不足以应对大量并发的I/O请求,缓存...
**读取IE缓存的方法** 1. **手动查看**:用户可以在IE浏览器的“工具”菜单中选择“Internet选项”,在“常规”选项卡下的“浏览历史”部分点击“设置”来查看和管理缓存。 2. **编程访问**:开发者可以通过编程方式...
此外,缓存的生命周期在IIS默认设置下随着应用程序重启而结束,可以通过IIS管理工具或编程方式配置缓存的持久化。 在实际开发中,应考虑到缓存的大小限制,因为应用程序域中的内存资源有限。如果需要缓存较大的数据...
此外,还需要确保在无网络连接时,能够正确处理缓存数据的读取。 通过以上步骤,你可以在你的Android应用中实现基于Retrofit2和OkHttp3的数据缓存,并根据需要调整缓存时间。这不仅提高了应用的性能,还能在离线...
总结来说,虽然Android 13和14对第三方应用的缓存访问增加了难度,但通过正确申请权限、使用新的API以及遵循隐私规定,还是可以实现这一功能的。在开发过程中,务必谨慎处理数据,尊重用户隐私,确保应用的合法性与...
本教程将详细解释SC超级缓存的配置方法,并提供相应的工具来帮助你更好地管理和利用这个功能。 一、SC超级缓存的基本原理 SC超级缓存的核心是将频繁访问的数据存储在高速缓存中,当用户或系统需要这些数据时,可以...
这样,在后续的请求中,Geoserver可以直接读取这些缓存的图像,而不是每次都要实时计算和渲染,从而显著提高了服务的响应速度和效率。 二、配置图层缓存的步骤 1. 登录Geoserver管理界面:首先,你需要通过浏览器...
SC超级缓存是一种高效的数据存储...通过正确设置和使用SC超级缓存,不仅可以减少硬件损耗,还可以显著提升服务质量和用户体验。因此,深入理解和掌握SC超级缓存的原理和配置技巧,对于任何IT管理员来说都是至关重要的。
9. **测试与调试**: 对于这样的功能,编写单元测试是非常重要的,可以确保XPath表达式的正确性和缓存机制的稳定性。可以使用诸如JUnit(Java)、pytest(Python)或Mocha/Chai(JavaScript)等测试框架进行测试。 ...
正确的高速缓存设置能够有效提高数据读写速度,从而改善整体服务器性能。当然,在实际操作过程中还需要注意各种细节,确保设置正确无误。希望本文能为需要对HP服务器进行高速缓存设置的用户提供帮助。
4. **服务器未正确设置缓存指令**:若服务器未正确设置缓存控制头,可能导致浏览器无法正确判断何时应获取新资源。 在开发过程中,开发者需要理解和正确处理这些问题,以确保用户体验的一致性和数据的准确性。工具...
当用户请求数据时,系统首先查找内存缓存,如果找到则直接返回,否则再从文件缓存中读取,若仍未找到,则从网络或其他源获取,同时将数据存入内存和文件缓存,为后续请求提供服务。 在Android中,对于ListView加载...
另一种开启CPU二级缓存的方法是在BIOS中进行设置。这种方法适用于大多数计算机,尤其是那些允许用户自定义硬件设置的计算机。 **步骤1**:重启电脑,并在开机过程中按下DEL键(或根据屏幕提示的其他按键),进入...
在进行文件读取时,需要注意错误处理,如在给定的代码中,使用了`try-catch-finally`块确保资源的正确关闭。此外,为了提高性能,通常会使用缓冲技术,如`BufferedReader`和`BufferedInputStream`,它们可以在内部...
综上所述,正确设置和使用SSD缓存软件能显著提升服务器性能,但需谨慎选择软件、合理配置参数,并保持对系统状态的密切关注。通过这些方法,企业可以充分发挥SSD的潜力,为业务提供更高效、可靠的存储解决方案。
例如,在一个ASP.NET MVC的控制器方法中,可以使用`[OutputCache(Duration = 60)]`注解来设置60秒的缓存期。 Data Cache则主要用于存储应用程序级别的数据,例如数据库查询结果。开发者可以使用`System.Web.Caching...
该函数通常在输出缓冲结束前被调用,以确保页面内容被正确地写入缓存文件。 这些缓存方法可以显著减少数据库查询次数,并降低服务器负载,尤其适合于对性能要求较高的Web应用。需要注意的是,缓存机制在提高性能的...