`
grzrt
  • 浏览: 188786 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Redis学习手册(虚拟内存)

 
阅读更多

一、简介:

和大多NoSQL数据库一样,Redis同样遵循了Key/Value数据存储模型。在有些情况下,Redis会将Keys/Values保存在内存中以提高数据查询和数据修改的效率,然而这样的做法并非总是很好的选择。鉴于此,我们可以将之进一步优化,即尽量在内存中只保留Keys的数据,这样可以保证数据检索的效率,而Values数据在很少使用的时候则可以被换出到磁盘。
在实际的应用中,大约只有10%的Keys属于相对比较常用的键,这样Redis就可以通过虚存将其余不常用的Keys和Values换出到磁盘上,而一旦这些被换出的Keys或Values需要被读取时,Redis则将其再次读回到主内存中。

二、应用场景:

对于大多数数据库而言,最为理想的运行方式就是将所有的数据都加载到内存中,而之后的查询操作则可以完全基于内存数据完成。然而在现实中这样的场景却并不普遍,更多的情况则是只有部分数据可以被加载到内存中。
在Redis中,有一个非常重要的概念,即keys一般不会被交换,所以如果你的数据库中有大量的keys,其中每个key仅仅关联很小的value,那么这种场景就不是非常适合使用虚拟内存。如果恰恰相反,数据库中只是包含少量的keys,而每一个key所关联的value却非常大,那么这种场景对于使用虚存就再合适不过了。
在实际的应用中,为了能让虚存更为充分的发挥作用以帮助我们提高系统的运行效率,我们可以将带有很多较小值的Keys合并为带有少量较大值的Keys。其中最主要的方法就是将原有的Key/Value模式改为基于Hash的模式,这样可以让很多原来的Keys成为Hash中的属性。

三、配置:

1). 在配置文件中添加以下配置项,以使当前Redis服务器在启动时打开虚存功能。
vm-enabled yes

2). 在配置文件中设定Redis最大可用的虚存字节数。如果内存中的数据大于该值,则有部分对象被换出到磁盘中,其中被换出对象所占用内存将被释放,直到已用内存小于该值时才停止换出。
vm-max-memory (bytes)
Redis的交换规则是尽量考虑"最老"的数据,即最长时间没有使用的数据将被换出。如果两个对象的age相同,那么Value较大的数据将先被换出。需要注意的是,Redis不会将Keys交换到磁盘,因此如果仅仅keys的数据就已经填满了整个虚存,那么这种数据模型将不适合使用虚存机制,或者是将该值设置的更大,以容纳整个Keys的数据。在实际的应用,如果考虑使用Redis虚拟内存,我们应尽可能的分配更多的内存交给Redis使用,以避免频繁的换入换出。

3). 在配置文件中设定页的数量及每一页所占用的字节数。为了将内存中的数据传送到磁盘上,我们需要使用交换文件。这些文件与数据持久性无关,Redis会在退出前会将它们全部删除。由于对交换文件的访问方式大多为随机访问,因此建议将交换文件存储在固态磁盘上,这样可以大大提高系统的运行效率。
vm-pages 134217728
vm-page-size 32
在上面的配置中,Redis将交换文件划分为vm-pages个页,其中每个页所占用的字节为vm-page-size,那么Redis最终可用的交换文件大小为:vm-pages * vm-page-size。由于一个value可以存放在一个或多个页上,但是一个页不能持有多个value,鉴于此,我们在设置vm-page-size时需要充分考虑Redis的该特征。

4). 在Redis的配置文件中有一个非常重要的配置参数,即:
vm-max-threads 4
该参数表示Redis在对交换文件执行IO操作时所应用的最大线程数量。通常而言,我们推荐该值等于主机的CPU cores。如果将该值设置为0,那么Redis在与交换文件进行IO交互时,将以同步的方式执行此操作。
对于Redis而言,如果操作交换文件是以同步的方式进行,那么当某一客户端正在访问交换文件中的数据时,其它客户端如果再试图访问交换文件中的数据,该客户端的请求就将被挂起,直到之前的操作结束为止。特别是在相对较慢或较忙的磁盘上读取较大的数据值时,这种阻塞所带来的影响就更为突兀了。然而同步操作也并非一无是处,事实上,从全局执行效率视角来看,同步方式要好于异步方式,毕竟同步方式节省了线程切换、线程间同步,以及线程拉起等操作产生的额外开销。特别是当大部分频繁使用的数据都可以直接从主内存中读取时,同步方式的表现将更为优异。
如果你的现实应用恰恰相反,即有大量的换入换出操作,同时你的系统又有很多的cores,有鉴于此,你又不希望客户端在访问交换文件之前不得不阻塞一小段时间,如果确实是这样,我想异步方式可能更适合于你的系统。
至于最终选用哪种配置方式,最好的答案将来自于不断的实验和调优。

分享到:
评论

相关推荐

    Redis中文入门手册

    针对某些场景下value比key大很多的情况,Redis引入了虚拟内存机制: 1. **Redis虚拟内存简介** - 允许将部分数据从内存中移出到磁盘,以节省内存空间。 - 适用于大型数据集或数据生命周期较长的情况。 2. **...

    Redis入门手册(中文).pdf

    此外,还介绍了虚拟内存的使用,适用于Value大于Key的情况,提供了相关的配置指令和工作方式说明。 主从复制是Redis数据备份和读写分离的重要特性。它允许一个主Redis服务器同步数据到多个从Redis服务器,实现数据...

    Redis 入门手册

    - 虚拟内存机制允许Redis将部分数据存储在磁盘上,而非完全存放在内存中,从而节省了内存空间。 - 当内存不足时,Redis可以自动将一些数据转移到磁盘上,以释放内存供其他操作使用。 2. **Redis虚拟内存相关配置*...

    Redis技术参考手册(中文版)高清doc版最新版本

    Redis技术参考手册是一个学习Redis技术的参考文档,可以帮助你了解 Redis 命令的具体使用方法,以及介绍了Redis数据结构、持久化、虚拟内存等内容。需要的朋友可下载试试! Redis全称是Remote Dictionary Server。...

    Redis入门手册(中文)

    4.1. Redis虚拟内存简介................................................................................................8 4.2. Redis虚拟内存相关配置.........................................................

    人工智能聊天机器人手册-如何使用 Redis、Python 和 GPT 构建人工智能聊天机器人

    3. **使用Redis构建实时系统**:Redis是一个内存数据库,适用于高速数据存取。在Python中,使用Redis客户端连接到Redis集群,利用Redis的JSON功能存储聊天数据,Redis流处理与Hugging Face API的实时交互。这使得...

    快速轻量的 Redis 代理和 Kafka 代理.zip

    如pipeline、mget、mset、del mulit key指令,通过虚拟内存,解决高并发情况下pipeline的数据占位问题支持多机场、网关权限、自动db、自动SET过渡时间支持非法Characterkey的拦截支持访问数据监控、使用指令,实时...

    TongWeb V7.0 服务配置指南

    该指南详细介绍了TongWeb V7.0 的配置过程,涵盖了Session管理、RedisSession架构模式、TongWeb-MQ使用说明、普通证书、国密证书、加密传输密钥管理、健康检测等方面的知识点。 Session管理是TongWeb V7.0 中的一...

    Nginx镜像使用手册

    手册中详细描述了如何管理和添加虚拟主机,包括添加和删除虚拟主机的步骤,方便用户根据自己的需求配置网站。在FTP账号管理方面,提供了一个菜单式的脚本,这使得建立FTP虚拟用户变得轻松容易。 在升级版本和卸载...

    MongoDB开发使用手册

    - 使用MMAP技术将文件映射到虚拟内存,再映射到物理内存。 - 在32位系统中,由于内存限制,单个数据库文件的最大上限为2GB。 - 在64位系统中,内存上限大幅提高,因此单个数据库的上限也随之增加。 - 物理文件被...

    阿里云CentOs镜像使用手册

    - 系统使用了jemalloc来优化MySQL的内存管理。 - 提供本地、远程备份和阿里云OSS备份功能,确保数据安全。 - 提供交互式添加Apache虚拟主机、菜单式FTP账号管理,简化管理操作。 - 提供在线升级脚本,方便快速...

    CentOS7.0 64位 Apache2.4 PHP5.4镜像使用手册

    - 使用jemalloc来优化MySQL的内存管理,提高了数据库性能。 - 提供了一个交互式的Apache虚拟主机添加工具,便于快速设置网站。 - 菜单式FTP账户管理脚本,可以轻松创建FTP虚拟用户。 - 支持在线升级MySQL、PHP、...

    私有云识别能力部署手册.docx

    - 检查虚拟内存是否设置为unlimited,如果不是,使用`ulimit -v unlimited`进行设置。 - 最后,赋予`ats`执行权限并启动。 6. **标签相关知识**: - **私有云**:是一种仅由单一组织使用的云环境,提供了数据...

    phpStudy-install.zip

    1. 系统需求:明确指出phpStudy支持的操作系统版本,内存和硬盘空间要求。 2. 安装步骤:详述安装过程中的每一步骤,包括下载、解压、运行安装程序等。 3. 配置说明:指导用户如何配置Apache、PHP和MySQL,包括端口...

    性能优化手册100技巧.06版.pdf

    ### Java性能学习研究 #### 1. Java性能优化 Java性能优化是一个广泛的概念,它包含了多个层面的改进,旨在提高Java应用程序的运行效率和响应速度。性能优化可以从以下几个方面进行: - **代码层面优化**:这涉及...

Global site tag (gtag.js) - Google Analytics