MongoDB虽然不像我们常用的mysql,sqlserver,oracle等关系型数据库有group by函数那样方便分组,但是MongoDB要实现分组也有3个办法:
* Mongodb三种分组方式:
* 1、group(先筛选再分组,不支持分片,对数据量有所限制,效率不高)
* 2、mapreduce(基于js引擎,单线程执行,效率较低,适合用做后台统计等)
* 3、aggregate(推荐) (如果你的PHP的mongodb驱动版本需>=1.3.0,推荐你使用aggregate,性能要高很多,并且使用上要简单些,不过1.3的目前还不支持账户认证模式,可以通过http://pecl.php.net/package/mongo查看更新日志和Bug)
下面就来看下mapreduce方式:
Mongodb官网对MapReduce介绍:
Map/reduce in MongoDB is useful for batch processing of data and aggregation operations. It is similar in spirit to using something like Hadoop with all input coming from a collection and output going to a collection. Often, in a situation where you would have used GROUP BY in SQL, map/reduce is the right tool in MongoDB.
- db.runCommand(
- { mapreduce : <collection>,
- map : <mapfunction>,
- reduce : <reducefunction>
- [, query : <query filter object>]
- [, sort : <sort the query. useful for optimization>]
- [, limit : <number of objects to return from collection>]
- [, out : <output-collection name>]
- [, keeptemp: <true|false>]
- [, finalize : <finalizefunction>]
- [, scope : <object where fields go into javascript global scope >]
- [, verbose : true]
- }
- );
参数说明:
mapreduce:要操作的目标集合
map:映射函数(生成键值对序列,作为Reduce函数的参数)
reduce:统计函数
query:目标记录过滤
sort:对目标记录排序
limit:限制目标记录数量
out:统计结果存放集合(如果不指定则使用临时集合,在客户端断开后自动删除)
keeptemp:是否保留临时集合
finalize:最终处理函数(对reduce返回结果执行最终整理后存入结果集合)
scope:向map、reduce、finalize导入外部变量
verbose:显示详细的时间统计信息
map函数调用当前对象,并处里对象的属性,传值给reduce,map方法使用this来操作当前对象,最少调用一次emit(key,value)方法来向reduce提供参数,其中emit的key为最终数据的id。
接收一个值和数组,根据需要对数组进行合并分组等处理,reduce的key就是emit(key,value)的key,value_array是同个key对应的多个value数组。
此函数为可选函数,可在执行完map和reduce后执行,对最后的数据进行统一处理。
- {
- "_id": ObjectId("50ccb3f91e937e2927000004"),
- "feed_type": 1,
- "to_user": 234,
- "time_line": "2012-12-16 01:26:00"
- }
- {
- "_id": ObjectId("50ccb3ef1e937e0727000004"),
- "feed_type": 8,
- "to_user": 123,
- "time_line": "2012-12-16 01:26:00"
- }
- {
- "_id": ObjectId("50ccb3e31e937e0a27000003"),
- "feed_type": 1,
- "to_user": 123,
- "time_line": "2012-12-16 01:26:00"
- }
- {
- "_id": ObjectId("50ccb3d31e937e0927000001"),
- "feed_type": 1,
- "to_user": 123,
- "time_line": "2012-12-16 01:26:00"
- }
我们按动态类型feed_type和用户to_user进行分组统计,实现结果:
feed_type | to_user | cout |
1 | 234 | 1 |
8 | 123 | 1 |
1 | 123 | 2 |
- //编写map函数
- $map = '
- function() {
- var key = {to_user:this.to_user,feed_type:this.feed_type};
- var value = {count:1};
- emit(key,value);
- } ';
- //reduce 函数
- $reduce = '
- function(key, values) {
- var ret = {count:0};
- for(var i in values) {
- ret.count += 1;
- }
- return ret;
- }';
- //查询条件
- $query = null; //本实例中没有查询条件,设置为null
- $mongo = new Mongo('mongodb://root:root@127.0.0.1: 28017/'); //链接mongodb,账号和密码为root,root
- $instance = $mongo->selectDB("testdb");
- //执行此命令后,会创建feed_temp_res的临时集合,并将统计后的数据放在该集合中
- $cmd = $instance->command(array(
- 'mapreduce' => 'feed',
- 'map' => $map,
- 'reduce' => $reduce,
- 'query' => $query,
- 'out' => 'feed_temp_res'
- ));
- //查询临时集合中的统计数据,验证统计结果是否和预期结果一致
- $cursor = $instance->selectCollection('feed_temp_res')->find();
- $result = array();
- try {
- while ($cursor->hasNext())
- {
- $result[] = $cursor->getNext();
- }
- }
- catch (MongoConnectionException $e)
- {
- echo $e->getMessage();
- }
- catch (MongoCursorTimeoutException $e)
- {
- echo $e->getMessage();
- }
- catch(Exception $e){
- echo $e->getMessage();
- }
- //test
- var_dump($result);
下面是输出的结果,和预期结果一致
- {
- "_id": {
- "to_user": 234,
- "feed_type": 1
- },
- "value": {
- "count": 1
- }
- }
- {
- "_id": {
- "to_user": 123,
- "feed_type": 8
- },
- "value": {
- "count": 1
- }
- }
- {
- "_id": {
- "to_user": 123,
- "feed_type": 1
- },
- "value": {
- "count": 2
- }
- }
- /**
- * mapReduce分组
- *
- * @param string $table_name 表名(要操作的目标集合名)
- * @param string $map 映射函数(生成键值对序列,作为 reduce 函数参数)
- * @param string $reduce 统计处理函数
- * @param array $query 过滤条件 如:array('uid'=>123)
- * @param array $sort 排序
- * @param number $limit 限制的目标记录数
- * @param string $out 统计结果存放集合 (不指定则使用tmp_mr_res_$table_name, 1.8以上版本需指定)
- * @param bool $keeptemp 是否保留临时集合
- * @param string $finalize 最终处理函数 (对reduce返回结果进行最终整理后存入结果集合)
- * @param string $scope 向 map、reduce、finalize 导入外部js变量
- * @param bool $jsMode 是否减少执行过程中BSON和JS的转换,默认true(注:false时 BSON-->JS-->map-->BSON-->JS-->reduce-->BSON,可处理非常大的mapreduce,//true时BSON-->js-->map-->reduce-->BSON)
- * @param bool $verbose 是否产生更加详细的服务器日志
- * @param bool $returnresult 是否返回新的结果集
- * @param array &$cmdresult 返回mp命令执行结果 array("errmsg"=>"","code"=>13606,"ok"=>0) ok=1表示执行命令成功
- * @return
- */
- function mapReduce($table_name,$map,$reduce,$query=null,$sort=null,$limit=0,$out='',$keeptemp=true,$finalize=null,$scope=null,$jsMode=true,$verbose=true,$returnresult=true,&$cmdresult){
- if(empty($table_name) || empty($map) || empty($reduce)){
- return null;
- }
- $map = new MongoCode($map);
- $reduce = new MongoCode($reduce);
- if(empty($out)){
- $out = 'tmp_mr_res_'.$table_name;
- }
- $cmd = array(
- 'mapreduce' => $table_name,
- 'map' => $map,
- 'reduce' => $reduce,
- 'out' =>$out
- );
- if(!empty($query) && is_array($query)){
- array_push($cmd, array('query'=>$query));
- }
- if(!empty($sort) && is_array($sort)){
- array_push($cmd, array('sort'=>$query));
- }
- if(!empty($limit) && is_int($limit) && $limit>0){
- array_push($cmd, array('limit'=>$limit));
- }
- if(!empty($keeptemp) && is_bool($keeptemp)){
- array_push($cmd, array('keeptemp'=>$keeptemp));
- }
- if(!empty($finalize)){
- $finalize = new Mongocode($finalize);
- array_push($cmd, array('finalize'=>$finalize));
- }
- if(!empty($scope)){
- array_push($cmd, array('scope'=>$scope));
- }
- if(!empty($jsMode) && is_bool($jsMode)){
- array_push($cmd, array('jsMode'=>$jsMode));
- }
- if(!empty($verbose) && is_bool($verbose)){
- array_push($cmd, array('verbose'=>$verbose));
- }
- $dbname = $this->curr_db_name;
- $cmdresult = $this->mongo->$dbname->command($cmd);
- if($returnresult){
- if($cmdresult && $cmdresult['ok']==1){
- $result = $this->find($out, array());
- }
- }
- if($keeptemp==false){
- //删除集合
- $this->mongo->$dbname->dropCollection($out);
- }
- return $result;
- }
相关推荐
MongoDB 是一个流行的开源、高性能、无模式的文档型数据库...这个演示文稿可能会涵盖 MapReduce 示例、最佳实践以及常见陷阱,帮助你提升在 MongoDB 数据处理上的技能。记得查看博文链接以获取更多详细信息和实际案例。
MongoDB的MapReduce是一种强大的工具,用于处理和分析大量数据,尤其适合于复杂的数据聚合任务。MapReduce的工作原理是将大规模数据集分解成小块,分别在不同的节点上执行计算,然后将结果合并以得到最终答案。在...
总结来说,MongoDB的MapReduce功能为我们提供了一种有效处理和分析大规模订单数据的方法,通过自定义的map和reduce函数,可以实现各种复杂的统计需求,这对于理解和优化业务表现非常有价值。在电子商务领域,这样的...
"mongodb-demo示例"是一个基于Java的MongoDB应用实例,它展示了如何使用Java API与MongoDB进行集成。这个示例可以帮助开发者理解如何在实际项目中有效地利用MongoDB。 首先,你需要在项目中引入MongoDB的Java驱动...
MongoDB中的MapReduce是一种分布式计算模型,用于处理和分析海量数据。MapReduce包含两个主要阶段:Map阶段和Reduce阶段,这两个阶段共同实现了数据处理的并行化,从而提高处理效率。 Map阶段的主要任务是将原始...
MongoDB的MapReduce是一种在大型数据...然而,需要注意的是,MapReduce可能不适合实时查询,因为它通常涉及磁盘I/O和内存消耗,对于性能要求高的场景,可以考虑使用其他数据处理方法,如聚合框架或MongoDB的TTL索引等。
本示例将介绍如何使用C#来访问和操作MongoDB数据库。 首先,为了在C#中使用MongoDB,我们需要引入一个库——MongoDB.Driver。这个库提供了与MongoDB服务器通信的所有必需组件。安装方法通常是通过NuGet包管理器,...
通过这个示例,我们可以看到MongoDB的MapReduce是如何处理大数据的,它提供了灵活性和可扩展性,使得在数据库级别进行复杂的聚合和分析成为可能。然而,需要注意的是,对于大型数据集,MapReduce可能不是最高效的...
计算机后端-PHP视频教程. mongodb10 MapReduce 统计栏目下的商品.wmv
4. 示例代码:可能包含一些Delphi的演示应用程序,展示了如何在Delphi项目中加载和使用封装后的DLL来操作MongoDB。 在实际使用过程中,你需要按照以下步骤操作: 1. 编译DLL:确保C++驱动和Delphi的DLL项目都已正确...
在上述代码中,我们首先创建了一个`MongoDatabase`对象,然后使用`GridFSBuckets.create()`方法创建一个`GridFSBucket`实例。这个`GridFSBucket`对象提供了上传和下载文件的方法。`uploadFromStream()`方法用于将...
"非关系型数据库 MongoDB 在 Linux 上安装使用说明,MongoDB 与 Spring Boot 整合代码示例" MongoDB 安装使用手册 1. 概述 在当前的数据存储领域中,非关系型数据库(NoSQL)正在逐渐崛起,MongoDB 作为其中的一...
这个扩展允许开发者通过PHP代码与MongoDB进行交互,执行查询、插入、更新和删除等操作。 描述中提到的"centos下测试通过"意味着该扩展在CentOS操作系统上已经过测试,可以正常运行。CentOS是一个基于Linux的开源...
这个示例展示了如何使用Scrapy爬取网页数据并利用MongoDB进行存储。Scrapy的强大在于其可扩展性和灵活性,可以适应各种复杂的爬取需求。MongoDB则为大量非结构化数据提供了一种高效、易用的存储方式。通过结合两者,...
Jqgrid_Spring_MongoDB Jqgrid Spring MongoDB 集成示例代码 在此示例代码中,我将 mongodb 与 spring mvc 和 jqgrid 集成在一起。所有树技术都具有出色的性能。
下面是一个简单的示例代码: ```php $m = new MongoClient(); $db = $m->selectDB('mydatabase'); $collection = $db->selectCollection('mycollection'); $result = $collection->find(); ``` - 这里创建了...