`
jaybril
  • 浏览: 50342 次
  • 性别: Icon_minigender_1
社区版块
存档分类
最新评论

Redis的模糊查询在生产环境出现严重的性能问题

阅读更多

 

Redis是一个高性能高效率的key-value存储的nosql数据库,由于数据是存储在内存中,因此访问速度非常快,由于项目涉及到数据库的查询非常多,而数据变大并不是非常频繁,所以在项目中采用Redis分担大部分MySQL的压力

在项目中实际使用我用的Redis提供的客户端连接工具包jedis,在项目中引入jedis.Jar即可

 

 1public static Set<String> searchLike(String like_key) {
2    //线上环境模糊查询带来严重的性能问题,杜绝使用
3    if(!Config.IS_BUG){
4        return null;
5    }
6    Jedis jedis = RedisApi.getJedis();
7    boolean is_ok = true;
8    try {
9        if (jedis == null) {
10            return null;
11        }
12        return jedis.keys(like_key);
13    } catch (Exception e) {
14        // TODO: handle exception
15        is_ok = false;
16        return null;
17    } finally {
18        close(jedis, is_ok);
19    }
20}

 

每当用户登录成功之后,都会生成一个cookie,分别存在客户端和Redis数据库,cookie的key由cookie值+用户ID组成:cookie字符串+"_"+用户ID,

例如用户cookie为“d9fb0ea5955fcf0a2183c5076”,用户ID为 19092,

那Redis中存储的key就是 d9fb0ea5955fcf0a2183c5076_19092,最终的key-vlaue就是:

1{"d9fb0ea5955fcf0a2183c5076_19092":d9fb0ea5955fcf0a2183c5076}

而在用户不断的登录成功,就不断地产生这样的记录,久而久之,会积累出非常多的无用的key,浪费redis的空间,也加重了redis查询的负担,因此想到使用Redis的模糊查询来清掉无用的cookie的key

而Redis的客户端jedis操作是通过jedis.keys(keys)来完成的,keys可以使用通配符来匹配Redis中的key

 通配符说明:

*: 0到任意多个字符 eg: searchLike("test*")

?: 1个字符

比如现在需要清除某个用户所有的无用的cookie的key,,则可以写成“ *_19092 ”

 

1    String key_like = "*_19092";
2    Set<String> keys = RedisApi.searchLike(key_like);

这样就可以查出所有这个用户的keys,调用jedis提供的批量删除key的方法即可达到目的。

1String key_like = "*_19092";
2Set<String> keys = RedisApi.searchLike(key_like);

到这里从需求到逻辑到编码一气呵成,简单测试没什么问题后,就发布到线上,由于平时网站的流量不算非常高,所以运行了几天也没发生什么异常,直到今天早上,拥有几十万粉丝的公众号发推文,推文的内容直接链接到网站,因此说瞬间流量是非常高

 

运行了大约十分钟之后,运营突然发疯的过来说网站访问非常慢,甚至出现错误码,心里一慌,赶紧上去看日志,我了个乖乖啊,简直是吓人,error日志想流水一样蹦出来,但五一不例外都是下面图示的错误:从Redis池中获取不大连接数,马上上redis服务器查看,发现CPU已经到达了100%以上

能让Redis的CPU到100%的,我想出了一下几个可能:

  1. 连接数过多,占用连接的时间过长

  2. 存储的值过大,存取均很占用CPU和内存

  3. 慢查询,事其它操作等待时间超时

  4. redis阻塞,某个操作把Redis阻塞,导致CPU飙升

由于项目上线时间已经很久,前三个可能基本都在平时查看Redis服务器性能的过程中排除掉,因此很大概率是第四个,突然想起前几天做的功能,有个模糊查询,该不是这个问题吧?我到网站输入“Redis 模糊查询 性能”,出来非常多关于redis模糊查询性能急剧下降的的情况,而且建议生产环境下禁用redis的模糊查询,于是我把模糊查询这块业务直接注释掉,重新上线,运行了半天,再没出现这个问题,因此可以断定就是模糊查询搞的鬼。

 

【替代方案】

有问题肯定是要解决的,既然模糊查询行不通的,那就得想别的办法达到目的,想到Redis有Set这这种存储结构,因此可以把用户的所有cookie key都放到一个用户专属的Set中,每次用户登录成功之后,都把之前Set里的cookie key清除,然后再把最新的key放进去,这样就可以达到同样的目的了。

 1String setKey = "prefix_customer_cookie_list_10920";
2        String token="ss2ssssss";
3        //取出所有的用户的cookie key
4        Set<String> list = RedisApi.getSet(setKey);
5        if (list != null && list.size() > 0) {
6            //删除用户所有的cookie key
7            RedisApi.removeFromSet(setKey, list.toArray(new String[0]));
8        }
9        //把最新的cookie key加入到Set中
10        RedisApi.addSet(setKey, token);

 

欲知大流量下的效果如何,请关注我哦,下回发推文后回复你哦

 


 

觉得本文对你有帮助?请分享给更多人

关注「编程无界」,提升装逼技能

 

分享到:
评论

相关推荐

    Redis+模糊匹配+批量上传+Keys

    Redis是一种高性能的键值对数据存储系统,常用于缓存、...在使用过程中,要特别注意性能优化和数据安全,避免对生产环境造成不良影响。通过合理的策略和工具,可以充分利用Redis的强大功能,提升应用的性能和稳定性。

    redis-desktop-manager-2019.0.0.zip

    总之,Redis Desktop Manager是Redis用户的得力助手,无论是在开发阶段测试数据,还是在生产环境中监控和管理数据,都能提供极大的便利。2019.0.0版本可能包含了对当时Redis版本的兼容性优化以及一些功能增强,确保...

    Redis Desktop Manager 0.9.9 Windows x64

    Redis Desktop Manager 0.9.9 是一个专为Windows x64平台设计的图形化界面工具,用于管理和操作Redis数据库。这款应用提供了直观且高效的...无论是在开发阶段还是在生产环境中,这款工具都能成为Redis操作的得力助手。

    Redis批量删除KEY的方法

    这些方法虽然能够帮助我们批量处理Redis中的Key,但在生产环境中,尤其是当Key数量非常大时,直接使用`keys`命令可能会导致Redis服务器阻塞,因为它会遍历整个数据库。因此,在实际操作中,应尽量避免在高峰期或者对...

    一次flask+redis的微服务实战

    虽然Flask可以作为简单的Web服务器,但在生产环境中需要更强大的Web服务器,如uWSGI和Nginx。Nginx作为反向代理,将请求转发给uWSGI处理。需要修改Nginx配置文件,指定监听的端口,并创建相应的site配置。 0x04 ...

    Laravel开发-redcard

    此外,确保在生产环境中正确配置 Redis 的缓存过期时间,以保持数据的时效性。 总之,"Laravel 开发 - Redcard" 项目展示了如何结合 Laravel、PHP 和 Redis 实现一个高效的自动完成功能。通过理解这一过程,开发者...

    第20单元 项目答辩、历届月考题分析2

    在本单元的学习中,我们将重点放在了项目开发技术的总结和项目答辩上,特别是针对Redis、Kafka和Elasticsearch这三项关键技术的运用。这些技术在现代软件开发中扮演着至关重要的角色,尤其是在大数据处理、实时消息...

    Laravel开发-searchy

    在生产环境中,可以适当地调整错误处理机制,确保用户体验。 总之,`Laravel Searchy` 是一个强大而灵活的搜索工具,能够满足 Laravel 应用中各种搜索需求,提供便捷的用户搜索体验。通过熟练运用其各种特性,...

    基于PHP的FeiFeiCms飞飞影视导航系统源码.zip

    开发过程中,版本控制工具(如Git)和持续集成/持续部署(CI/CD)工具(如Jenkins)的应用,可以帮助开发者高效地管理代码并自动化部署到生产环境。 11. 性能优化: 对于高流量的影视导航系统,性能优化是必要的...

    开源项目-文章管理系统

    12. **持续集成/持续部署(CI/CD)**:通过Jenkins或Travis CI等工具实现自动化构建和测试,确保代码质量,并自动部署到生产环境。 13. **前端框架**:前端可能使用React、Vue.js或Angular等现代JavaScript框架,提供...

    searchHospital

    10. **持续集成/持续部署(CI/CD)**: 通过Jenkins或GitLab CI/CD等工具实现自动化构建和部署,提高开发效率,确保每次代码更改后都能快速验证其正确性并部署到生产环境。 以上就是"searchHospital"项目中可能涉及到...

Global site tag (gtag.js) - Google Analytics