`

MongoDB mapreduce实例

阅读更多
  1. /************** The file is executed per 5 minutes by /etc/crontab.*****************/  
  2. var action_count_map = function(){  
  3.   emit(this.action, {action:this.action, count:1});  
  4. }  
  5.   
  6. var action_count_reduce = function(key, values){  
  7.   var count = 0;  
  8.   values.forEach(function(value){  
  9.     count += value.count;  
  10.   });  
  11.   return {action:key, count : count};  
  12. }  
  13.   
  14.   
  15. db.log.mapReduce(action_count_map, action_count_reduce, {query : {'action_count' : {$ne:1}},out: {reduce:'action_count'}});  
  16.   
  17. db.log.update({'action_count':{$ne:1}}, {$set:{'action_count':1}}, falsetrue);  

1. 在map中将每个action访问次数设为1

2. reduce中,统计相同action的访问次数

3. 执行mapReduce。指定了查询为‘action_count’不等于1,也就是没有执行过该统计;将结果存储在‘action_count’集合,并且使用reduce选项表示该结果集作为下次reduce的输入。

4. 在当前所有日志记录设置'action_count'的值为1,表示已经执行过该统计????

 

##############################################################

MongoDB MapReduce

MapReduce是一种计算模型,简单的说就是将大批量的工作(数据)分解(MAP)执行,然后再将结果合并成最终结果(REDUCE)。这样做的好处是可以在任务被分解后,可以通过大量机器进行并行计算,减少整个操作的时间。

 

上面是MapReduce的理论部分,下面说实际的应用,下面以MongoDB MapReduce为例说明。

下面是MongoDB官方的一个例子:

 

> db.things.insert( { _id : 1, tags : ['dog', 'cat'] } );
> db.things.insert( { _id : 2, tags : ['cat'] } );
> db.things.insert( { _id : 3, tags : ['mouse', 'cat', 'dog'] } );
> db.things.insert( { _id : 4, tags : []  } );

> // map function
> map = function(){
...    this.tags.forEach(
...        function(z){
...            emit( z , { count : 1 } );
...        }
...    );
...};

> // reduce function
> reduce = function( key , values ){
...    var total = 0;
...    for ( var i=0; i<values.length; i++ )
...        total += values[i].count;
...    return { count : total };
...};

db.things.mapReduce(map,reduce,{out:'tmp'})
{
    "result" : "tmp",
    "timeMillis" : 316,
    "counts" : {
        "input" : 4,
        "emit" : 6,
        "output" : 3
    },
    "ok" : 1,
}
> db.tmp.find()
{ "_id" : "cat", "value" : { "count" : 3 } }
{ "_id" : "dog", "value" : { "count" : 2 } }
{ "_id" : "mouse", "value" : { "count" : 1 } }

 

 

例子很简单,计算一个标签系统中每个标签出现的次数。

这里面,除了emit函数之外,所有都是标准的js语法,这个emit函数是非常重要的,可以这样理解,当所有需要计算的文档(因为在mapReduce时,可以对文档进行过滤,接下来会讲到)执行完了map函数,map函数会返回key_values对,key即是emit中的第一个参数key,values是对应同一key的emit的n个第二个参数组成的数组。这个key_values会作为参数传递给reduce,分别作为第1.2个参数。

reduce函数的任务就是将key-values变成key-value,也就是把values数组变成一个单一的值value。当key-values中的values数组过大时,会被再切分成很多个小的key-values块,然后分别执行Reduce函数,再将多个块的结果组合成一个新的数组,作为Reduce函数的第二个参数,继续Reducer操作。可以预见,如果我们初始的values非常大,可能还会对第一次分块计算后组成的集合再次Reduce。这就类似于多阶的归并排序了。具体会有多少重,就看数据量了。


reduce一定要能被反复调用,不论是映射环节还是前一个简化环节。所以reduce返回的文档必须能作为reduce的第二个参数的一个元素。

(当书写Map函数时,emit的第二个参数组成数组成了reduce函数的第二个参数,而Reduce函数的返回值,跟emit函数的第二个参数形式要一致,多个reduce函数的返回值可能会组成数组作为新的第二个输入参数再次执行Reduce操作。)

 

MapReduce函数的参数列表如下

 

db.runCommand(
 { mapreduce : <collection>,
   map : <mapfunction>,
   reduce : <reducefunction>
   [, query : <query filter object>]
   [, sort : <sort the query.  useful for optimization>]
   [, limit : <number of objects to return from collection>]
   [, out : <output-collection name>]
   [, keeptemp: <true|false>]
   [, finalize : <finalizefunction>]
   [, scope : <object where fields go into javascript global scope >]
   [, verbose : true]
 }
);
或者这么写:

 

 

db.collection.mapReduce(
                         <map>,
                         <reduce>,
                         {
                           <out>,
                           <query>,
                           <sort>,
                           <limit>,
                           <keytemp>,
                           <finalize>,
                           <scope>,
                           <jsMode>,
                           <verbose>
                         }
                       )
  • mapreduce:指定要进行mapreduce处理的collection
  • map:map函数
  • reduce:reduce函数
  • out:输出结果的collection的名字,不指定会默认创建一个随机名字的collection(如果使用了out选项,就不必指定keeptemp:true了,因为已经隐含在其中了)
  • query:一个筛选条件,只有满足条件的文档才会调用map函数。(query。limit,sort可以随意组合)
  • sort:和limit结合的sort排序参数(也是在发往map函数前给文档排序),可以优化分组机制
  • limit:发往map函数的文档数量的上限(要是没有limit,单独使用sort的用处不大)
  • keytemp:true或false,表明结果输出到的collection是否是临时的,如果想在连接关闭后仍然保留这个集合,就要指定keeptemp为true,如果你用的是MongoDB的mongo客户端连接,那必须exit后才会删除。如果是脚本执行,脚本退出或调用close会自动删除结果collection
  • finalize:是函数,它会在执行完map、reduce后再对key和value进行一次计算并返回一个最终结果,这是处理过程的最后一步,所以finalize就是一个计算平均数,剪裁数组,清除多余信息的恰当时机
  • scope:javascript代码中要用到的变量,在这里定义的变量在map,reduce,finalize函数中可见
  • verbose:用于调试的详细输出选项,如果想看MpaReduce的运行过程,可以设置其为true。也可以print把map,reduce,finalize过程中的信息输出到服务器日志上。

 

执行MapReduce函数返回的文档结构如下

  { result : <collection_name>,

    timeMillis : <job_time>, 

    counts : {

               input : <number of objects scanned>,

               emit : <number of times emit was called>,

               output : <number of items in output collection>

     } ,

     ok : <1_if_ok>,

     [, err : <errmsg_if_error>]

}

  • result:储存结果的collection的名字,这是个临时集合,MapReduce的连接关闭后自动就被删除了。
  • timeMillis:执行花费的时间,毫秒为单位
  • input:满足条件被发送到map函数的文档个数
  • emit:在map函数中emit被调用的次数,也就是所有集合中的数据总量
  • ouput:结果集合中的文档个数(count对调试非常有帮助)
  • ok:是否成功,成功为1
  • err:如果失败,这里可以有失败原因,不过从经验上来看,原因比较模糊,作用不大

java代码执行MapReduce的方法:

[java] view plaincopy
  1. public void MapReduce() {  
  2.         Mongo mongo = new Mongo("localhost",27017);  
  3.         DB db = mongo.getDB("qimiguangdb");  
  4.         DBCollection coll = db.getCollection("collection1");  
  5.          
  6.         String map = "function() { emit(this.name, {count:1});}";  
  7.                                                                                                                 
  8.      
  9.         String reduce = "function(key, values) {";    
  10.         reduce=reduce+"var total = 0;";    
  11.         reduce=reduce+"for(var i=0;i<values.length;i++){total += values[i].count;}";    
  12.         reduce=reduce+"return {count:total};}";    
  13.             
  14.         String result = "resultCollection";    
  15.             
  16.         MapReduceOutput mapReduceOutput = coll.mapReduce(map,    
  17.                 reduce.toString(), result, null);    
  18.         DBCollection resultColl = mapReduceOutput.getOutputCollection();    
  19.         DBCursor cursor= resultColl.find();    
  20.         while (cursor.hasNext()) {    
  21.             System.out.println(cursor.next());    
  22.         }    
  23.     }    
分享到:
评论

相关推荐

    mongodb mapreduce 实例

    通过这个MongoDB MapReduce实例,我们可以实时监控和分析订单数据,例如每天的销售额、最畅销的商品等,这对电子商务平台的运营决策至关重要。同时,MapReduce也支持分布式计算,能够处理海量数据,适应不断增长的...

    Log4j+MongoDB 完整实例

    在这个"Log4j+MongoDB完整实例"中,我们将探讨如何利用Log4j收集应用程序日志,并将这些日志有效地存储到MongoDB中进行分析。 首先,Log4j的核心在于其灵活的配置。通过XML或.properties文件,我们可以定制日志级别...

    MongoDB中的MapReduce简介

    MongoDB中的MapReduce是一种分布式计算模型,用于处理和分析海量数据。MapReduce包含两个主要阶段:Map阶段和Reduce阶段,这两个阶段共同实现了数据处理的并行化,从而提高处理效率。 Map阶段的主要任务是将原始...

    MongoDB中MapReduce编程模型使用实例

    通过单词计数的实例,我们可以理解MongoDB中MapReduce编程模型的使用方式和特点。 单词计数示例是MapReduce的一个典型应用,其基本思想是统计文本中每个单词出现的次数。在MongoDB中,首先需要准备好待处理的文档...

    MongoDB的CURD实例附带C#官方驱动集

    MongoDB是一种流行的开源、分布式文档数据库,以其灵活性、高性能和易用性而受到广大开发者喜爱。CURD操作是数据库中最...在进一步深入MongoDB时,还可以探索其更高级的功能,如索引、复制集、聚合框架、MapReduce等。

    八天学会MongoDB

    MongoDB五分钟教程:MongoDB Shell入门 基于MongoDB进行分布式数据存储的步骤 MongoDB分布式存储的MapReduce并行查询 实例:MongoDB与Tomcat的结合更便捷

    Mongodb基础知识详解(值得珍藏).pdf

    数据库则是MongoDB的基本存储单元,一个实例可以包含多个数据库,每个数据库又包含多个集合。 MongoDB的一大特色是它的查询语言,它支持类似于面向对象的查询语法,能够执行类似于关系数据库的单表查询。此外,...

    Pentaho Analytics for MongoDB Cookbook(2015)随书代码

    每个章节的源代码都是实际操作的实例,它们将帮助读者深入理解Pentaho和MongoDB的结合使用,以及如何在大数据环境中实现高效的分析解决方案。这些实践经验对于任何想要提升大数据处理能力的人来说都是一笔宝贵的财富...

    MongoDB for Java Developers的随书阅读代码

    该书的随书阅读代码包含了书中多个章节的实例,这些代码分布在名为"micai-mongodb-chapter6"、"micai-mongodb-chapter2"和"micai-mongodb-chapter4"的压缩子文件中。这些章节的代码涵盖了MongoDB的基础操作以及高级...

    MongoDB 资料集合

    1. MongoDB shell:命令行工具,用于连接和管理MongoDB实例,执行查询和管理操作。 2. MongoDB Compass:图形用户界面工具,提供可视化数据浏览、查询构建和性能分析功能。 3. Mongoose:JavaScript驱动程序,用于...

    MongoDB权威指南+深入MongoDB

    MongoDB的MapReduce功能用于执行大规模的数据处理任务,类似于Hadoop。它可以将数据映射到多个函数,然后在所有数据上进行 Reduce 操作,以实现统计和分析目的。 7. 事务处理: MongoDB 4.0版本引入了ACID事务,...

    MongoDB教程

    2. **安装与配置**:详细阐述MongoDB的安装步骤,以及如何配置数据库实例,包括设置安全策略、日志记录和性能调优。 3. **操作与管理**:讲解如何插入、查询、更新和删除数据,以及备份与恢复、监控和性能优化等...

    mongodb教程

    本教程将通过实例和实践教你如何安装MongoDB、创建数据库和集合、插入和查询数据、执行更新和删除操作、构建索引、实现分片和复制、进行数据聚合以及与其他应用的集成。通过学习,你将能够熟练地运用MongoDB解决实际...

    MongoDB学习笔记之MapReduce使用示例

    一、mapreduce是根据map函数里调用的emit函数的第一个参数来进行分组的 Map-Reduce是一种计算模型,简单的说就是将大批量的工作(数据)分解(MAP)执行,然后再将结果合并成最终结果(REDUCE)。 使用 MapReduce 要...

    mongoDB实现BOM表多试图转换

    5. **性能优化**:考虑使用MongoDB的聚合框架或MapReduce功能进行大数据量的转换,以提高效率。 在实际应用中,可能还需要考虑缓存策略、并发控制以及错误处理等问题。对于大规模BOM数据,可以考虑使用MongoDB的分...

    MongoDB命令

    此外,MongoDB 还具备丰富的查询语言、原子更新操作符、文本搜索功能、聚合框架(类似于 SQL 的 GROUP BY 操作)以及 MapReduce 功能,用于复杂的数据分析。 MongoDB 内置了复制功能并支持自动故障转移,以提供高...

    mongodb学习手册.rar

    8. **安全与认证**:理解如何确保MongoDB实例的安全性至关重要。手册会涉及用户权限、角色、SSL连接、认证机制等内容,帮助你构建安全的数据库环境。 9. **性能调优**:MongoDB的性能取决于多种因素,如硬件配置、...

    MongoDB

    - MongoDB shell:交互式JavaScript命令行工具,用于连接、查询和管理MongoDB实例。 - MongoDB备份和恢复工具:如mongodump、mongorestore用于数据备份和恢复。 11. 源码分析: - 对于开发人员来说,深入理解...

    深入学习MongoDB及MongoDB权威指南(第2版)

    学习这两本书,你将能够掌握MongoDB的核心原理,理解其工作方式,并具备设计、部署和管理MongoDB实例的能力。通过实践书中的示例,你将能够熟练地运用MongoDB进行数据存储、查询优化和应用开发。此外,这些书籍也将...

    深入云计算 MongoDB管理与开发实战详解pdf.part1

    第15章 Java对MongoDB的基本操作实例 15.1 Java快速入门 15.1.1 安装Java驱动程序和开发环境 15.1.2 访问控制 15.1.3 Java对MongoDB数据库的基本操作 15.1.4 Java驱动的一致性 15.2 Java常用操作 ...

Global site tag (gtag.js) - Google Analytics