Skynet --- ruby的类Google Map/Reduce框架

Skynet是一个很响亮的名字，因为它是阿诺施瓦辛格主演的经典系列电影《终结者》里面的统治人类的超级计算机网络。不过本文的Skynet没这么恐怖，它是一个ruby版本的Google Map/Reduce框架的名字而已。

Google的Map/Reduce框架实在太有名气了，他可以把一个任务切分为很多份，交给n台计算机并行执行，返回的结果再并行的归并，最后得到运算的结果。据说Google一个搜索结果会Map到7000台服务器并行执行，这么多么可怕的分布式运算能力阿！有了Map/Reduce，程序员就可以在无需关注分布式框架的情况下，用简单的代码写出来健壮、并行的分布式应用程序，并且可以充分发挥计算机群集运算的能力。

如今能够实现Map/Reduce算法的框架已经有好几个了，其中最有名气的可能就是Yahoo发起的开源项目Hadoop，不过Hadoop并不是用ruby编写的，但在ruby的世界，Adam Pisoni已经开发出来了ruby版本的Map/Reduce框架，这就是Skynet。

Adam Pisoni开发Skynet的初衷是因为Adam Pisoni的公司Geni.com是一家定位于家族SNS的互联网网站。网站提供的新闻推送功能要求能够从大量的用户产生的信息当中提取特定用户感兴趣的内容，推送给用户。这实际上是一个分布式运算模型，要能够把任务分布到多台服务器上面执行，最后把任务归并回来。Adam Pisoni没有找到合适的框架，最终自己开发了Skynet，运用Map/Reduce算法来提供这个分布式运算平台。

用Skynet开发Map/Reduce的分布式应用程序非常简单，让我们举一个简单的例子看看吧：假设有一个1GB的文本文件，我们的任务是要统计该文件当中每个单词出现的次数统计。传统的做法当然很简单，顺序读入文件内容，进行单词统计就行了，但是毫无疑问，执行速度会很慢。如果我们有一个1000台服务器的运算群集，我们可以如何利用Skeynet来并发执行这个程序，从而缩短统计时间呢？

Map/Reduce算法的过程是：

1、Partition(划分数据)
把数据划分为1000份，这个过程由Skynet自动完成

2、Map
除了划分数据，还需要把运算该数据的代码也Map到每个运算节点上面去并发执行。这1000个节点各自执行自己的任务，执行完毕以后把执行结果返回

3、Partition
这1000分执行结果需要归并，于是我们再次划分数据，比方说划分为10份，这个过程也是Skynet自动完成的

4、Reduce
把Reduce代码和Reduce数据分发到10个节点执行，每个节点执行完毕返回数据。如果需要再次Reduce可以再次执行。最终Reduce为一个总共的结果。

其实Map/Reduce算法的原理是很简单的，好了，看看Skynet下面，我们怎么实现呢？其实我们需要编写的代码只有两个方法：一个map方法，告诉skynet如何执行每份数据，一个reduce方法，告诉skynet如何归并每份数据，所以这个并行算法最终用Skynet来写的话，也非常简单：

  class MapreduceTest
    include SkynetDebugger
            
    def self.map(datas)
      results = {}
      datas.each do |data|
        results[data] ||= 0
        results[data] += 1
      end                 
      [results]      
    end
    
    def self.reduce(datas)
      results = {}
      datas.each do |hashes|
        hashes.each do |key,value|
          results[key] ||= 0
          results[key] += value
        end
      end
      results
    end
  end

这个就是一个最简单、但是完整ruby版本的Map/Reduce代码了。我们需要编写一个map方法，告诉skynet去统计每个单词的出现次数，我们还需要编写一个reduce方法告诉skynet去归并每个map的统计结果。好了，剩下所有的工作都归Skeynet接管了，是不是很简单！

当然要让这个Map/Reduce跑起来我们还需要做一些工作，比方说安装skynet，配置skynet的并行节点等等，这些琐碎的工作可以看看skynet自己的文档：http://skynet.rubyforge.org/doc/index.html，就不详述了。

值得一提的是Skynet可以和Rails框架良好的整合起来工作，你可以把Rails当中一些非常耗时、可以Map/Reduce的工作丢给Skynet去异步后台执行，比方说：

MyModel.distributed_find(:all, :conditions => “created_on < ’#{3.days.ago}’”).each(:some_method)

把最近3天以来所有的model查询处理以后要执行的耗时操作some_method交给Skynet，让Skynet动用他强大的运算网络去执行。

还可以异步执行：

model_object.send_later(:method, options, :save)

把耗时的任务交给Skynet去异步执行。

对于拥有强大运算网络、并且需要进行大量耗时运算的web2.0网站来说，Skynet真是一个很棒的工具，他可以让程序员很简单的编写处理健壮而高效的分布式应用程序！

评论

11 楼 billgui 2009-01-15  

dayn9 写道

MapReduce我记得用C++实现，性能不详。
Hadoop用java实现，加速比惨不忍睹。
Skynet性能如何？

《Erlang程序设计》（作者：Joe Armstrong）书中有个用Erlang写的MapReduce的小例子。

10 楼 flyyouth 2009-01-13  

最近在搞文本分类，大数据量下单机搞不定了，寻求分布式要。。。。。。

9 楼 woods 2008-07-09  

我能想到的 可以用这个框架完成动态网页的静态化一类的工作.很有用的东西~ 收藏了~
还可以做 文本index这类的工作？知识发现？知识抽取？
我还是很小白...继续积攒rp ...

8 楼 dayn9 2008-06-18  

MapReduce我记得用C++实现，性能不详。
Hadoop用java实现，加速比惨不忍睹。
Skynet性能如何？

7 楼 zhanyingle_1981 2008-06-13  

目前有没比较经典的成功案例啊？

6 楼 fredzhang 2008-06-02  

map/reduce的思想是非常简单的，换句话说，任何语言都能实现。google的map/reduce之所以出名，不是因为这个思想多巧妙，而是因为它把分布式计算用一种非常简易的方式总结了出来。任何分布式计算，最核心的任务都是：1 任务划分 2 数据归并，如果不能对任务划分，那么用什么分布式框架都是没用的。比如对超大型矩阵的聚类计算，如果算法本身无法划分，那么根本没办法分布式。所以一切涉及到分布式的问题，划分是最重要的。

5 楼 robbin 2008-06-02  

lgn21st 写道

关注这个技术以及skynet好久，但是在实际项目中找不到用武之地，种种原因...

用武之地有很多阿，关键是你有没有那么多的计算资源。比方说JavaEye如果想实现精确度非常高的相关文章匹配和文章自动分类的话，需要运算量非常庞大的矩阵运算来训练语料库，而这种矩阵运算都是天文数字，如果有足够的服务器节点，运用Map/Reduce就可以实现这种功能了。

4 楼 lgn21st 2008-06-02  

关注这个技术以及skynet好久，但是在实际项目中找不到用武之地，种种原因...

3 楼 t0uch 2008-06-02  

有了这个，我更YY PS3游戏机带来的能力了

想问一下
分布式编译的话，用的也是这一套算法吗？

2 楼 feeling3_4 2008-06-02  

cool!

1 楼 7thbyte 2008-06-02  

谢谢老大介绍～准备搭一个环境看能不能跑