刚才用100kb的小文本文件,用1000次循环,在我的本本上,对redis(via redis-py),mongodb(via py-mongo)和ZODB(Zope的数据库,OODB,直接使用key-value模式,没有依附其他数据结构)进行了小规模写入和读取测试。
发现一些结果,有些有点意外:
逐次写入:
也就是
for record in file:
db.insert(record)
db.save()
Mongodb没有强制将数据写入硬盘的函数,忽略。
ZODB没有异步模式,只能对每一条record调用一次commit,用了50秒。
Redis出奇地使用了约2分钟之多,我想是因为Redis的同步save设计还没不成熟的原因。(update:经过查阅文章,发现redis的save是以快照模式进行的,这就能解释为什么redis在逐次写入,同步保存情况下,如此耗时了。 http://redis.io/topics/persistence)
连续写入
也就是
for record in file:
db.insert(record)
db.save() # if exists
MongoDB和Redis两个都耗时一秒左右,MongoDB速度比Redis稍稍慢个零点几秒,考虑到Mongodb和Redis默认都是使用异步模式,速度相差不大,算是意料之中。
ZODB没有异步写入的方法,忽略。
读取
无索引情况下,ZODB是0.1x,Mongodb是1秒多,Redis是0.3秒。
有索引/缓存情况下,ZODB(在同一进程中对同一对象进行多次读取)是0.004秒;MongoDB仍是1秒多,比原来快了零点几秒;Redis是直接key-value,没有缓存,pass。
暂时总结
Redis的写入情况和MongoDB相似,但Redis的读取速度比MongoDB稍快。
MongoDB的索引似乎效果不大。
ZODB的读取速度惊人,秒杀MongoDB和Redis,但没有异步写入是它的硬伤,可尝试以扬长避短,考虑将它用在“读取多,写入小”的情况下。
详细数据
环境 Linux mypad 2.6.39-ARCH #1 SMP PREEMPT Tue Jun 7 05:49:02 UTC 2011 i686 Intel(R) Core(TM)2 Duo CPU T6570 @ 2.10GHz GenuineIntel GNU/Linux
条件,100kb文件,循环写入/读取1000次,每个测试方法是分开运行的,比如 python -m unittest testFile.TestCase.testMethod && python -m unittest ...
Zodb,同步,第一个是写入时间,第二个是无内存缓存的查询,第二个是有内存缓存的查询。
Ran 1 test in 50.151s
Ran 1 test in 0.038s
Ran 1 test in 0.003s
mongodb 异步,第一个是写入时间,第二个是无索引查询,第三个是建立索引的时间,第四个是带索引的查询
Ran 1 test in 1.450s
Ran 1 test in 1.159s
Ran 1 test in 0.002s
Ran 1 test in 1.137s
redis,默认设置(不带save或bgsave),后面是查询时间
Ran 1 test in 1.002s
Ran 1 test in 0.296s
redis,在所有数据写入之后调用save,后面是查询时间
Ran 1 test in 1.287s
Ran 1 test in 0.299s
redis,在所有数据写入之后调用bgsave,后面是查询时间
Ran 1 test in 1.004s
Ran 1 test in 0.323s
分享到:
相关推荐
Redis适用于需要高效性能操作和运算的场景,尤其适合数据量较小的系统。Memcached适用于动态系统中减轻数据库负载、提升性能的场景,适合读多写少的应用,并且可以通过分片技术应对大数据量的读写。MongoDB则主要...
高级分布式数据库教程,nosql,mongodb,redis。非常好的分布式教程!
【标题】:“php apache mysql memcache redis mongodb”指的是在服务器端构建一套常见的Web开发环境,包括PHP编程语言、Apache HTTP服务器、MySQL数据库管理系统,以及两种内存缓存技术:Memcached和Redis,还有...
Linux、数据库、Redis、MongoDB 统一管理平台 一、Linux 统一管理平台 Linux 统一管理平台是基于 DDD(领域驱动设计)分层架构实现的,提供了 ssh 终端、文件查看和操作、脚本管理执行、进程操作、运行状态查看等...
13个Mongodb GUI可视化管理工具的列表则提供了各种工具的比较,帮助用户选择适合自己的MongoDB管理界面,便于数据查询和管理。 **MySQL** 是世界上最流行的关系型数据库管理系统之一,广泛用于Web应用程序。...
5 结合 Redis + MongoDB 开发了一个分层数据模型 设计了一套 缓存 KEY 规则 实验测试 返回记录在一定范围内 可以大大增加接口的效率">最近开发了一套基于 Redis 缓冲层 + MongoDB 持久层的小框架 1 开发了一个高效的...
在这个"阿里云EMR spark kafka redis MongoDB例子demo"中,我们看到了如何整合这些技术,构建一个实时数据处理系统,从Kafka获取数据,利用Spark Streaming进行实时分析,然后将结果存储到Redis和MongoDB,实现了...
此时,会在 `src` 目录下生成一系列可执行文件,包括用于性能测试的 `redis-benchmark`、用于修复出问题的 RDB 文件的 `redis-check-dump`、Redis 的客户端 `redis-cli`、Redis 的服务端 `redis-server`、用于修复出...
本示例项目整合了多种数据库技术,包括 MongoDB、Redis 和 MyBatis,同时使用 MySQL 作为传统的关系型数据库。 MongoDB 是一个基于分布式文件存储的非关系型数据库,适用于处理大量数据的场景,尤其适合文档型数据...
1、里面包含Redis、MongoDB、Memcache相关的学习文档 2、对这三者有比较详细的应用场景告之,并描述出了三者之间区别 3、提供JAVA连接Redis常见问题的解决方案 4、对MongoDB的特性有专门文档作描述 5、对于新手而言...
例如,使用MySQL作为主要的后端数据库,Redis作为缓存层来提高响应速度,而MongoDB则处理非结构化或半结构化的数据。 为了深入学习这三种数据库,你可以通过阅读官方文档、参与在线课程、实践项目等方式,了解它们...
数据库是存储和管理数据的核心工具,本教程涵盖了多个主流的数据库系统,包括MySQL、Oracle、Redis、Mycat、MongoDB以及Memcached。这些数据库在不同的应用场景下各有优势,理解和掌握它们能帮助我们更好地设计、...
使用 Scrapy、Redis、MongoDB 实现...使用 Scrapy、Redis、MongoDB 实现的分布式网络爬虫可以高效、可靠地抓取网页数据,并且可以避免爬虫被禁用。该爬虫系统的架构设计和实现可以为开发者提供一个可靠的爬虫解决方案。
例如,可以将Redis作为缓存层,提高数据读取速度,减轻MongoDB的压力;在需要持久化存储大量数据时,使用MongoDB作为主数据库。这种架构在Web应用、实时分析系统、社交网络等领域非常常见。 资源方面,"redis.zip...
基于springboot+vue+redis+mongodb+spark等大数据技术构建的图书推荐系统,课程设计项目,可用于毕设 后端 Spring Boot Redis MongoDB 前端 Vue Element-ui Axios 推荐服务 Spark Zookeeper Kafka Flume 任务调度 ...
总的来说,"springboot和dubbo、netty的集成,redis mongodb的nosql模板,kafka roc"这个项目涵盖了现代互联网开发中的关键组件,展示了如何在微服务架构中整合各种技术,实现高效的数据通信和处理。通过这样的集成...
在IT行业中,Spring Boot、Spring MVC、MyBatis、Redis和MongoDB是常见的技术栈,它们各自扮演着关键角色,构建高效、灵活的Web应用程序。本文将深入探讨这些技术的集成与应用。 首先,Spring Boot是由Pivotal团队...
它将数据临时存储在内存中,加快了数据读取速度,尤其适用于频繁访问的静态内容。Memcached不支持持久化存储,但其简单的设计和低延迟特性使其成为Web应用优化的重要工具。 `Redis`是另一个内存数据结构存储系统,...
基于SpringBoot + Mybatis + Thymeleaf +Redis+MongoDB+MySQL开发的商品管理系统。基于SpringBoot + Mybatis + Thymeleaf +Redis+MongoDB+MySQL开发的商品管理系统。基于SpringBoot + Mybatis + Thymeleaf +Redis+...
阿里云部署笔记(含Docker运行MySQL、Nacos、Redis、Minio、MongoDB容器)