`
free9277
  • 浏览: 107451 次
  • 性别: Icon_minigender_1
  • 来自: 广州
社区版块
存档分类
最新评论

使用MapReduce实现矩阵向量相乘

阅读更多

1  描述

     假定有一个n*n的矩阵M,其第i行第j列的元素记为。假定有一个n维向量v,其第j个元素记为。于是,矩阵M和向量v的乘积结果是一个n维向量x,其第i个元素

     如:



    要求输入:向量为(2,3,4)

11 22 33
33 44 55
66 77 88

    输出:

0	220
1	418
2	715

2  实现思路

    假如这里n很大,但还没有大到向量v不足以放入内存的地步。将矩阵M存放在一个文件中,向量v作为常量数组放在程序中。那么我们便可以从矩阵元素在文件中的位置确定该元素的行列下标。同样,v向量的元素,可以通过数组下标获取该元素的行列下标。

 

Map函数:

    对矩阵元素Map任务会产生键值对(i,)。因此,计算的所有n个求和项的键值都相同。

 

Reduce函数:

      Reduce任务将所有与给定键i关联的值相加即可得到(i)。

 

逻辑图:



 

3  代码实现

public class MatrixVectorCompute {

	public static class TokenizerMapper extends
			Mapper<Object, Text, Text, IntWritable> {

		private Text lineNumber = new Text(); // 矩阵行序号
		private static int i = 0;
		private final static int[] vector = {2, 3, 4}; // 向量值

		public void map(Object key, Text value, Context context)
				throws IOException, InterruptedException {
			StringTokenizer itr = new StringTokenizer(value.toString());
			int j = 0; // 向量序号
			lineNumber.set(i + "");
			while (itr.hasMoreTokens()) {
				int result = vector[j] * Integer.parseInt(itr.nextToken());
				IntWritable one = new IntWritable(result);
				context.write(lineNumber, one);
				j ++;
			}
			i ++;
		}
	}

	public static class IntSumReducer extends
			Reducer<Text, IntWritable, Text, IntWritable> {
		private IntWritable result = new IntWritable();

		public void reduce(Text key, Iterable<IntWritable> values,
				Context context) throws IOException, InterruptedException {
			int sum = 0;
			for (IntWritable val : values) {
				sum += val.get();
			}
			result.set(sum);
			context.write(key, result);
		}
	}

	public static void main(String[] args) throws Exception {
		Configuration conf = new Configuration();
		
		Job job = new Job(conf, "word count11");
		job.setJarByClass(MatrixVectorCompute.class);
		
		job.setMapperClass(TokenizerMapper.class);
		job.setCombinerClass(IntSumReducer.class);
		job.setReducerClass(IntSumReducer.class);
		
		job.setOutputKeyClass(Text.class);
		job.setOutputValueClass(IntWritable.class);
		
		FileInputFormat.addInputPath(job, new Path("input"));
		FileOutputFormat.setOutputPath(job, new Path("output"));
		
		System.exit(job.waitForCompletion(true) ? 0 : 1);
	}
}

4  总结

  • 大小: 353 Bytes
  • 大小: 321 Bytes
  • 大小: 300 Bytes
  • 大小: 1.2 KB
  • 大小: 7.8 KB
  • 大小: 51.8 KB
1
0
分享到:
评论

相关推荐

    MapReduce实现矩阵相乘算法

    本话题将深入探讨如何使用Hadoop MapReduce实现两个矩阵相乘的算法,这在数据分析、机器学习以及高性能计算中有着重要应用。 首先,理解矩阵相乘的基本原理至关重要。矩阵相乘不是简单的元素对元素相乘,而是对应...

    基于MapReduce的矩阵相乘算法代码及其使用

    #### 三、MapReduce 实现矩阵相乘的关键步骤 1. **数据输入**:矩阵 A 和 B 分别存储在不同的文件中。 2. **Mapper 阶段**:对输入矩阵中的每个元素进行处理,生成键值对,键表示参与乘法运算的位置,值包含当前元素...

    Hadoop mapreduce 实现MatrixMultiply矩阵相乘

    本主题将深入探讨如何使用Hadoop MapReduce来实现MatrixMultiply,即矩阵相乘,这是一个基础且重要的数学运算,尤其在数据分析、机器学习以及高性能计算中有着广泛应用。 首先,理解矩阵相乘的基本原理至关重要。在...

    mapreduce大的稀疏矩阵相乘

    为了解决这个问题, MapReduce框架被用于实现稀疏矩阵相乘的并行计算。MapReduce是一种编程模型,用于大规模数据集的并行运算,具有接口简单、健壮容错的特点。 在MapReduce框架中,稀疏矩阵相乘可以通过Map函数和...

    hadoop/mapreduce-矩阵乘法 mapreduce的实现(代码)

    最近在研究hadoop与mapReduce,网上教程只有个wordcount程序示范,太简单,故写了个相对复杂点的涉及到多个文件之间同时运算的矩阵乘法的代码用于实验与测试,上传供大家学习与参考。 调用方法: 执行:hadoop jar ...

    基于MapReduce实现决策树算法

    基于MapReduce实现决策树算法是一种使用MapReduce框架来实现决策树算法的方法。在这个方法中,主要使用Mapper和Reducer来实现决策树算法的计算。下面是基于MapReduce实现决策树算法的知识点: 1. 基于C45决策树算法...

    Hadoop矩阵相乘完整实现

    Hadoop 矩阵相乘完整实现 ...Hadoop 矩阵相乘是一个非常重要的操作,使用 Hadoop 可以高效地实现矩阵相乘操作。同时,Hadoop 也提供了一种灵活的方式来实现矩阵相乘,即使用 MapReduce 编程模型。

    Hadoop mapreduce 实现InvertedIndexer倒排索引

    Hadoop mapreduce 实现InvertedIndexer倒排索引,能用。

    大数据实验报告Hadoop编程实现MatrixMultiplication矩阵相乘程序附源码.doc

    实验中,我们使用 Hadoop 的 MapReduce 框架来实现矩阵相乘,并将结果保存到 HDFS 中。 知识点一:Hadoop 和 MapReduce 介绍 * Hadoop 是一种基于 Java 的大数据处理工具,用于处理大量数据的存储和处理。 * ...

    java 矩阵乘法的mapreduce程序实现

    java 矩阵乘法的mapreduce程序实现是使用Hadoop的MapReduce框架来实现矩阵乘法的操作。矩阵乘法是一种基本的线性代数操作,用于计算两个矩阵的乘积。在大规模数据处理中,矩阵乘法是非常常见的操作,但是传统的矩阵...

    1-MapReduce矩阵乘法 600.rar

    标题中的“1-MapReduce矩阵乘法 600.rar”指的是一个使用MapReduce编程模型实现的矩阵乘法示例,这个示例可能是处理600x600或者涉及600个元素的矩阵。MapReduce是Google提出的一种分布式计算框架,常用于大数据处理...

    Hadoop MapReduce实现tfidf源码

    在Hadoop 2.7.7版本中,开发MapReduce程序通常需要使用Java编程语言。你需要导入Hadoop的相关库,创建Mapper和Reducer类,并实现它们的map()、reduce()方法。此外,还需要配置Job参数,如输入路径、输出路径、Mapper...

    MapReduce实现大矩阵乘法

    在“MapReduce实现大矩阵乘法”这个主题中,我们将深入探讨如何利用MapReduce模型解决大矩阵乘法的问题,这是一种高效处理大数据存储的有效方法。 **Map阶段** 在Map阶段,输入数据被分割成多个块(通常为HDFS中的...

    Hadoop mapreduce实现wordcount

    在这个案例中,我们将深入探讨如何在 Hadoop 环境中使用 MapReduce 实现 WordCount。 【描述】在 Hadoop 环境中,WordCount 的实现主要涉及两个关键阶段:Map 阶段和 Reduce 阶段。Map 阶段将原始输入数据(通常是...

    MapReduce矩阵乘法(Java)

    在这个场景下,我们将探讨如何利用Java实现MapReduce来进行矩阵乘法。矩阵乘法是线性代数中的基本运算,对于大规模的数据处理,传统的单机算法可能无法胜任,而MapReduce则为这种计算提供了强大的并行处理能力。 ...

    MapReduce实现join连接

    简单的在MapReduce中实现两个表的join连接简单的在MapReduce中实现两个表的join连接简单的在MapReduce中实现两个表的join连接

    Matrix-Vector-Multiplication:在MapReduce上实现的矩阵向量乘法的源代码-vector source code

    本文将深入探讨如何在MapReduce框架下实现矩阵向量乘法,以及相关的源代码分析。 首先,矩阵向量乘法是线性代数中的基本运算,其计算公式为\( C = A \times v \),其中\( A \)是一个矩阵,\( v \)是一个列向量,\( ...

    用MapReduce实现KMeans算法

    《使用MapReduce实现KMeans算法详解》 KMeans算法是一种广泛应用的无监督学习方法,用于数据聚类。在大数据处理的背景下,传统的单机实现往往无法应对海量数据,因此,结合分布式计算框架MapReduce实现KMeans算法就...

    基于Hadoop MapReduce的矩阵乘法

    1、资源内容:基于Hadoop MapReduce的矩阵乘法 2、代码特点:内含运行结果,不会运行可私信,参数化编程、参数可方便更改、代码编程思路清晰、注释明细,都经过测试运行成功,功能ok的情况下才上传的。 3、适用对象...

Global site tag (gtag.js) - Google Analytics