`

Redis压缩列表原理与应用分析

阅读更多
Redis是一款著名的key-value内存数据库软件,同时也是一款卓越的数据结构服务软件。它支持字符串、列表、哈希表、集合、有序集合五种数据结构类型,同时每种数据结构类型针对不同的应用场景又支持不同的编码方式。这篇文章主要介绍压缩列表编码,在理解压缩列表编码原理的基础上介绍Redis对压缩列表的应用,最后再对Redis压缩列表应用进行分析。

Redis压缩列表原理与应用

压缩列表是一种数据结构,这种数据结构的功能是将一系列数据与其编码信息存储在一块连续的内存区域,这块内存物理上是连续的,逻辑上被分为多个组成部分,其目的是在一定可控的时间复杂读条件下尽可能的减少不必要的内存开销,从而达到节省内存的效果,这么介绍有点玄乎,我们先一起看看它的实现原理吧,Redis3.2版本中,作者对压缩列表的实现在ziplist.h和ziplist.c中。

压缩列表原理

我认为将数据按照一定规则存储在内存中可以用“编码”这个词描述,因此下面会常用“编码”这个词。

总体编码

上面说到压缩列表是一块连续的内存区域,这块内存区域布编码示意图大致如下:

Redis压缩列表内存编码示意图

常态的压缩列表内存编码如上图所示,整个内存块区域内分为五个部分,下面分别介绍着五个部分:

zlbytes:存储一个无符号整数,固定四个字节长度,用于存储压缩列表所占用的字节,当重新分配内存的时候使用,不需要遍历整个列表来计算内存大小。

zltail:存储一个无符号整数,固定四个字节长度,代表指向列表尾部的偏移量,偏移量是指压缩列表的起始位置到指定列表节点的起始位置的距离。

zllen:压缩列表包含的节点个数,固定两个字节长度,源码中指出当节点个数大于2^16-2个数的时候,该值将无效,此时需要遍历列表来计算列表节点的个数。

entryX:列表节点区域,长度不定,由列表节点紧挨着组成。

zlend:一字节长度固定值为255,用于表示列表结束。

列表元素编码

上面介绍了压缩列表的总体内存布局,对于初entryX区域以外的四个区域的长度都是固定的,下面再看看entryX区域的编码情况。

每个列表节点由三部分组成:

压缩列表节点编码示意图

每个压缩列表节点区域头部包含两部分,一部分叫做previous length,另一部分叫encoding,最后是主体内容,叫做content,下面分别介绍他们:

previous length

用于存储上一个节点的长度,因此压缩列表可以从尾部向头部遍历,即当前节点位置减去上一个节点的长度即得到上一个节点的起始位置。previous length的长度可能是1个字节或者是5个字节,如果上一个节点的长度小于254,则该节点只需要一个字节就可以表示前一个节点的长度了,如果前一个节点的长度大于等于254,则previous length的第一个字节为254,后面用四个字节表示当前节点前一个节点的长度。这么做很有效地减少了内存的浪费。

encoding

节点的encoding保存的是节点的content的内容类型以及长度,encoding类型一共有两种,一种字节数组一种是整数,encoding区域长度为1字节、2字节或者5字节长。Redis作者巧妙的利用了前两个字节来表示content存储的内容类型和encoding区域的长度,我们先看看字节数组类型的encoding内容:

content为整数的encoding内容

content

content区域用于保存节点的内容,节点内容类型和长度由encoding决定,上面可以看出目前content的内容类型有整数类型和字节数组类型,且某些条件下content的长度可能为0。

相信到这里,我们都明白了压缩列表的原理,压缩列表并不是对数据利用某种算法进行压缩,而是将数据按照一定规则编码在一块连续的内存区域,目的是节省内存。下面我们看看压缩列表在Redis中的应用领域。

Redis中压缩列表的应用

Redis中,不同的数据类型广泛地应用了压缩列表编码,整理如下表:

Redis中数据结构类型与压缩列表的应用

上表总结了压缩列表编码在Redis不同的数据类型中的应用,Redis一共支持五种数据结构类型,其中有三种数据结构在一定条件下会应用压缩列表,至于什么条件后面会分析,值得一提的是Redis当前支持的GEO(地理位置)对压缩列表也有应用,具体此处不做讨论。

Redis压缩列表应用分析

上面部分介绍了Redis压缩列表的原理与应用,下面简单分析一下,主要从通过试图回答一些问题来分析:Redis为什么使用压缩列表?使用压缩列表的好处是什么?使用压缩列表的好处还有什么?压缩列表的应用对与我们使用内存有没有什么启发?

Redis对于每种数据结构、无论是列表、哈希表还是有序集合,在决定是否应用压缩列表作为当前数据结构类型的底层编码的时候都会依赖一个开关和一个阈值,开关用来决定我们是否要启用压缩列表编码,阈值总的来说通常指当前结构存储的key数量有没有达到一个数值(条件),或者是value值长度有没有达到一定的长度(条件)。任何策略都有其应用场景,不同场景应用不同策略。为什么当前结构存储的数据条目达到一定数值使用压缩列表就不好?压缩列表的新增、删除的操作平均时间复杂度为O(N),随着N的增大,时间必然会增加,他不像哈希表可以以O(1)的时间复杂度找到存取位置,然而在一定N内的时间复杂度我们可以容忍。然而压缩列表利用巧妙的编码技术除了存储内容尽可能的减少不必要的内存开销,将数据存储于连续的内存区域,这对于Redis本身来说是有意义的,因为Redis是一款内存数据库软件,想办法尽可能减少内存的开销是Redis设计者一定要考虑的事情。

另外,我认为使用压缩列表的好处除了节约内存之外,还有减少内存碎片的作用,我把这种行为叫做"合并存储",也就是将很多小的数据块存储在一个比较大的内存区域,试想想,如果我们将要存储的数据都是很小的条目,我们为每一个数据条目都单独的申请内存,结果是这些条目将有可能分散在内存的每一个角落,最终导致碎片增加,这是一件令人头疼的事情。

总结

这篇文章在介绍Redis压缩列表原理与应用的基础之上对Redis压缩列表的应用进行分析,分析部分主要掺杂着个人的理解与认知,如果有不同观点或者补充观点,欢迎留言讨论。

sspaas.com
分享到:
评论

相关推荐

    redis压缩列表原理与应用

    Redis压缩列表是一种特殊的内存数据结构,它旨在通过特定的编码规则优化内存使用。在详细阐述压缩列表的原理和应用之前...理解压缩列表的原理与应用,有助于开发者更好地利用Redis来构建高性能、高密度存储的应用系统。

    windows上的redis解压缩版

    首先,了解Redis的基本概念和工作原理是必要的。Redis基于内存存储,数据读写速度非常快,支持多种数据结构,如字符串、哈希、列表、集合和有序集合。它通过网络通信协议提供服务,可以与各种编程语言的客户端进行...

    redis_3.2.9_内存分布分析

    同时,Redis的源码分析对于理解这些知识有着不可替代的作用,能够帮助开发者深入理解Redis的内部机制和优化原理。在实际使用和部署Redis时,合理配置内存管理参数以及根据应用场景选择合适的数据类型,是实现系统...

    《Redis 深度历险》学习笔记与实践(Java)

    《Redis 深度历险》学习笔记与实践(Java) 基础和应用 1-2.Redis应用 — Redis基本数据结构 1-3.Redis应用 — 分布式锁 ...2-7.Redis原理 — 小对象压缩 集群 3-1.Redis集群 — 主从复制 3-2.Redis集群 — Sentinel

    Redis深度历险:核心原理和应用实践1

    Redis深度历险:核心原理和应用实践 Redis是一款高性能的键值存储系统,常被用于数据库、缓存以及消息中间件等场景。本部分主要围绕Redis的基础数据结构、核心原理以及实际应用展开,旨在帮助读者深入理解Redis的...

    redis设计与实现原理及运作机制

    ### Redis设计与实现原理及运作机制 #### 一、内部数据结构 Redis 是一款高性能的键值存储系统,其高效性很大程度上得益于内部使用的多种高效数据结构。这些数据结构不仅支持Redis提供的各种复杂数据类型,同时也...

    redis源码分析教程之压缩链表ziplist详解

    压缩链表(ziplist)是Redis中用于存储小型数据序列的一种高效内存结构,它被广泛应用于列表、字典等数据类型的底层实现。ziplist的主要优点是节省内存,通过压缩和特殊编码的方式,减少了不必要的内存开销。 在...

    深入了解redis底层原理.pptx

    Ziplist 是一种压缩列表,当列表元素数量较少或元素值较小时,Redis 会使用它来节省内存。Ziplist 的操作如添加和删除的时间复杂度为O(mem_size),而Doubly linked list则适用于元素较多或元素值较大的情况。Redis ...

    01 缓存通识与Redis架构原理.pdf

    Redis,全称为Remote Dictionary Server,是一种高性能的键值存储系统,通常被用作分布式缓存,广泛应用于互联网技术领域。 Redis的优势在于其单线程模型,这在早期版本中保证了操作的原子性,避免了多线程下的竞态...

    大型网站技术架构_核心原理与案例分析_李智慧PDF高清

    11. **监控与日志**:Prometheus、Grafana等监控工具,ELK(Elasticsearch, Logstash, Kibana)日志收集与分析系统,确保系统的稳定性和问题定位。 12. **安全性**:HTTPS、WAF防火墙、DDoS防护、OAuth2.0等安全...

    Redis 实践

    为了确保数据的快速访问与存储效率,同时避免高昂的成本,Instagram团队选择了一种既简单又高效的方式——Redis实践,即利用Redis这一高性能的内存数据结构服务器,来实现内存的节约与优化。 #### Redis选择的背景...

    Redis核心数据结构与高性能原理.zip

    Redis是一款高性能的键值对数据库,它以其丰富的数据结构、高效的性能和广泛的应用场景而备受开发者喜爱...通过理解和熟练运用这些核心数据结构和高性能原理,我们可以更好地设计和优化基于Redis的应用,提升系统性能。

    Redis 实战 源码

    本书“Redis实战”深入探讨了Redis的设计与实现,结合源码分析,帮助读者全面理解Redis的工作原理。源码分析是学习开源软件核心技术的重要途径,通过对Redis源码的学习,我们可以更深入地掌握其内部机制。 1. **...

    redis文档

    描述中的“NULL”表示没有提供额外的信息,但通常 Redis 的博文或教程会包含实际案例、性能测试、问题解决等内容,帮助读者深入理解 Redis 的工作原理和应用场景。 标签“源码”意味着可能涉及 Redis 的源代码分析...

    个人整理的redis学习资料汇总

    2. **Redis源代码分析**: 源码分析对于深入理解Redis的工作原理至关重要。这份文档可能包含了Redis的数据结构实现、网络通信机制、命令解析流程、持久化策略等核心模块的解析,帮助开发者了解Redis内部是如何高效地...

    redis安装配置详细教程.pdf

    ### Redis安装配置详细教程...- 推荐进一步阅读《Redis设计与实现》等专业书籍,以便更全面地理解Redis的工作原理及其应用场景。 通过上述步骤,您可以顺利安装并配置Redis,为您的项目提供高性能的数据存储解决方案。

    php-redis4.1.1

    在标签中,“源码”提示我们关注的重点是代码本身,我们将分析phpredis 4.1.1版本的源代码,了解其实现机制和内部工作原理。源码分析对于开发者来说至关重要,因为它提供了深入理解软件如何工作的窗口,有助于调试、...

Global site tag (gtag.js) - Google Analytics