`
backspace
  • 浏览: 141724 次
文章分类
社区版块
存档分类
最新评论

在MongoDB中一起使用$or和sort()时,查询性能差的一种解决方案

 
阅读更多

在前面文章曾经提到,在MongoDB中一起使用$or和sort()时,查询性能会很差,详见:http://www.cnblogs.com/xinghebuluo/archive/2011/12/01/2270590.html

在mongodb的计划中,2.5.w版本中可能会修改这个bug。

我的项目中也遇到了这个问题,后来自己想了一个解决方案,暂时规避了这个问题,现在把这个方案分享出来,和大家讨论一下.

这个解决方案是受到了mongos的源代码的启示,众所周知mongodb是分布式架构,那么在我们使用mongos查询并使用排序的时候,mongos需要把查询请求发送给各个shard,并将每个shard的查询结果

存放在一个队列中(队列中已经排好序)。这里假定有2个shard(多个shard的原理是一样的),查询条件为{“age”:20},排序条件为:{"time":1},mongos实现示意图如下:

1. mongos首先向两个shard发送查询排序命令。

2.两个shard返回结果是排序后的两个队列,如图所示。

3.客户端在取记录时,mongos取出两个队列的第一个元素,判断time值小的记录返回给客户端。

4.客户端再取记录时,重复步骤3,从两个队列中取time值小的记录返回给客户端。

正是受到mongos的启发,在遇到or查询并sort的情况时,把or的查询条件分解为多次查询,然后实现了一个查询类,里面保存了list<DBObject q>,然后向mongos发起多次查询排序请求,

此时得到多个cursor,此时的cursor就类似于上面的队列,即此时得到了多个排序好的队列,然后经过简单比较后,依次把记录返回给客户端。

例如,此时查询{"$or":[{"age":20},{"name":"li"}]},排序条件为{"Time":1},可以分解为2次查询:{"age":20},{"name":"li"},执行查询后,得到两个cursor,即两个队列,如下:、

此时就可以重复mongos的步骤了,在客户端取记录时,对队列(cursor)中的第一个元素做比较,取出time值最小的记录返回给客户端。

该解决方案的优点如下:

1.可以使用索引,速度很快。

2.封装类后,可以供多个业务使用。

缺点如下:

1. 每个队列中会缓存一些记录,这无形中造成了一些流量浪费和内存浪费。

 

上面是我对这个方案的整体思路,欢迎大家讨论。

 

3
3
分享到:
评论

相关推荐

    MongoDB基本查询.pdf

    除此之外,MongoDB 还提供了其他的查询方法和运算符,比如 `sort` 用于排序结果,`limit` 和 `skip` 分别用于限制返回结果的数量和跳过前几条,以及 `$and`, `$or`, `$not` 等逻辑运算符,以实现更复杂的逻辑组合...

    mongoDB讲解.ppt

    总的来说,MongoDB 提供了一个强大的、非关系型的数据库解决方案,适合处理复杂、灵活的数据结构,以及对高性能和高可用性有需求的应用。其易用性、丰富的查询语言和索引功能使得开发人员能够更高效地管理和操作...

    MongoDB常用操作汇总

    其设计目标是提供可扩展性和高性能的解决方案,尤其是在高负载情况下,通过添加更多节点来保证服务性能。 在MongoDB中,进行数据操作的基本单元是文档,文档是JSON格式的数据结构,包含键值对。以下是一些常见的...

    MongoDB快速入门笔记(四)之MongoDB查询文档操作实例代码

    MongoDB 是一款强大的分布式文件存储数据库,采用C++语言编写,专为Web应用提供可扩展的高性能数据存储解决方案。它在非关系型数据库领域中具有独特的地位,既保留了非关系数据库的灵活性,又具备与关系数据库类似的...

    Node.js对MongoDB进行增删改查操作的实例代码

    Mongoose是为Node.js应用程序和MongoDB数据库之间提供接口的库,它抽象了数据库的复杂操作,提供了一种模式驱动的解决方案。通过Mongoose,开发者可以创建和使用模式(Schema)来定义文档的结构,模式规定了文档的...

    利用MongoDB中oplog机制实现准实时数据的操作监控

    总的来说,MongoDB的oplog机制提供了实现数据操作监控的基础,通过定期轮询和解析oplog,我们可以构建自己的实时监控解决方案。这在需要实时数据同步、日志分析、审计追踪或其他类似需求的场景中非常有用。要注意的...

Global site tag (gtag.js) - Google Analytics