package org.apache.hadoop.examples;
import java.io.IOException;
import java.util.ArrayList;
import java.util.Map.Entry;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapred.JobClient;
import org.apache.hadoop.mapred.JobConf;
import org.apache.hadoop.mapred.lib.aggregate.ValueAggregatorBaseDescriptor;
import org.apache.hadoop.mapred.lib.aggregate.ValueAggregatorJob;
/**
hadoop的map/reduce例子,求的是单词在文本中的直方图,本人不解其意。
执行的命令也是需要-libjars参数:
hadoop jar hadoop-example.jar -libjars hadoop-example.jar shakepoems.text out_aggregate_his 3 textinputformat
利用系统已经实现的算法来写map/reduce程序简化开发,算法类型如下:
UniqValueCount
LongValueSum
DoubleValueSum
ValueHistogram
LongValueMax
LongValueMin
StringValueMax
StringValueMin
运行的结果是:
WORD_HISTOGRAM 11247 1 1 1710 4.4786165199608785 32.29810604730843
这个和直方图有啥关系?希望高人指点迷津。
* This is an example Aggregated Hadoop Map/Reduce application. Computes the
* histogram of the words in the input texts.
*
* To run: bin/hadoop jar hadoop-*-examples.jar aggregatewordhist <i>in-dir</i>
* <i>out-dir</i> <i>numOfReducers</i> textinputformat
*
*/
public class AggregateWordHistogram {
public static class AggregateWordHistogramPlugin
extends ValueAggregatorBaseDescriptor {
/**指定算法类型是VALUE_HISTOGRAM
* Parse the given value, generate an aggregation-id/value pair per word.
* The ID is of type VALUE_HISTOGRAM, with WORD_HISTOGRAM as the real id.
* The value is WORD\t1.
*
* @return a list of the generated pairs.
*/
@Override
public ArrayList<Entry<Text, Text>> generateKeyValPairs(Object key, Object val) {
String words[] = val.toString().split(" |\t");
ArrayList<Entry<Text, Text>> retv = new ArrayList<Entry<Text, Text>>();
for (int i = 0; i < words.length; i++) {
Text valCount = new Text(words[i] + "\t" + "1");
Entry<Text, Text> en = generateEntry(VALUE_HISTOGRAM, "WORD_HISTOGRAM",
valCount);
retv.add(en);
}
return retv;
}
}
/**
* The main driver for word count map/reduce program. Invoke this method to
* submit the map/reduce job.
*
* @throws IOException
* When there is communication problems with the job tracker.
*/
@SuppressWarnings("unchecked")
public static void main(String[] args) throws IOException {
JobConf conf = ValueAggregatorJob.createValueAggregatorJob(args
, new Class[] {AggregateWordHistogramPlugin.class});
JobClient.runJob(conf);
}
}
分享到:
相关推荐
在编程领域,源代码注释是程序员为了提高代码可读性、便于他人理解而添加的文字。然而,在某些情况下,如代码混淆、版本控制或者特定的需求,我们可能需要批量删除这些注释。本主题将深入探讨如何批量删除C/C++源...
标题中的"C/C++/Java 源代码注释清除工具"是一个专门针对这三种编程语言设计的实用程序,它的主要功能是移除源代码文件中的注释。在软件开发过程中,注释对于理解和维护代码至关重要,但在特定情况下,如代码混淆、...
在编程世界中,源代码注释是极其重要的,它们提供了对程序逻辑的解释,帮助开发者理解和维护代码。然而,在某些特定情况下,如编译优化、代码混淆或仅需执行无注释版本时,可能需要去除源代码中的注释。本文将深入...
源代码注释删除工具是一种专门用于保护软件源代码安全的应用程序。在软件开发过程中,注释是用来解释代码功能、逻辑和设计意图的重要部分,但对于非授权的人员,这些注释可能泄露关键信息,使得他们能更容易地理解和...
【小米便签源代码+注释】是一款专为学习Java编程和理解软件开发流程的开发者提供的资源。这个压缩包包含了小米便签应用的完整源代码,并且每段代码都有详细的注释,使得初学者能够更好地理解和学习代码的实现逻辑。 ...
程序源代码注释规范 可以让你的代码更规更简洁
《C类语言源代码注释去除程序 V1.0绿色》是一款专为处理C类语言(包括C、C++)源代码设计的实用工具,旨在帮助程序员高效地去除代码中的注释部分,使得源代码更加简洁,便于阅读和分析。在软件开发过程中,注释虽然...
本资源提供了一套基于Scala语言的Apache Spark源代码注释与翻译的设计源码,包含8170个文件。其中包括2245个Questionnaire文件,1297个Scala源代码文件,249个Java源代码文件,154个TXT文档,90个Python脚本文件,56...
本文讨论了基于神经网络融合模型的源代码注释自动生成方法,该方法可以自动生成源代码的注释,提高源代码的可读性和维护性。该方法采用编码器-解码器神经网络框架,结合基于语法树挖掘到的语法信息,形成更加全面的...
本资源"Java代码注释率检查器"是一个专门用于检查Java源代码中注释比例的工具,帮助开发者确保代码质量达到一定的标准。 `CodeCheck.jar` 文件是该检查器的执行程序,通常是一个Java的可运行JAR文件,包含了所有...
《俄罗斯方块源代码加详细注释》是一个非常适合初学者学习的游戏开发资源,它提供了完整的俄罗斯方块游戏的源代码,并且附带了详尽的注释,方便理解每个部分的功能和逻辑。在这个项目中,我们可以深入学习到游戏编程...
【Linux0.01内核源代码及注释】是早期Linux操作系统的核心代码,它展示了Linux发展的起点。这个源代码包含了一系列的汇编语言和C语言编写的基本系统组件,用于启动计算机、初始化硬件、管理内存、处理输入输出设备...
源代码注释语句清除工具是一种实用程序,专门设计用于C和C++编程语言环境,其主要功能是移除源代码文件中的所有注释语句。这个工具对于那些需要进行代码混淆、减小代码体积或者处理敏感信息隐藏的场景特别有用。在...
源程序中包含程序的详细使用说明,源代码注释非常详细,精品学习资料 python项目合集1-10,每个项目包含源程序、可执行程序。源程序中包含程序的详细使用说明,源代码注释非常详细,精品学习资料 python项目合集1-...
源代码注释去除工具是一种专门用于清理编程语言源代码中注释部分的实用程序。它旨在提高代码的纯净度,特别是在处理大量代码时,如在准备发布或进行代码分析时。该工具支持多种编程语言,包括SQL脚本、C、C++以及C#...
在这个压缩包中,我们找到了名为"linux-0.01"的文件,它包含了Linux 0.01的所有原始源代码和相关注释。 在Linux 0.01的源代码中,我们可以深入学习以下几个关键知识点: 1. **内核架构**:Linux 0.01是一个非常...
在IT领域,邮件发送是常见...总之,这份"邮件发送源代码注释详细"的资源对于学习邮件发送的程序员来说是宝贵的资料,通过阅读和理解这些代码,初学者可以了解到邮件发送的基本原理和实现方式,同时也能提升其编程技能。
python项目合集11-23,每个项目包含源程序、可执行程序 源程序中包含程序的详细使用说明,源代码注释非常详细,精品学习资料 python项目合集11-23,每个项目包含源程序、可执行程序 源程序中包含程序的详细使用说明...
源代码中的注释对于初学者来说至关重要,它们解释了代码的功能和逻辑。通过阅读带有注释的代码,你可以了解每一段代码的目的,学习如何实现特定的游戏机制,例如蛇的移动、食物的生成、碰撞检测等。 6. 学习过程 从...
2. **去除无用代码**:删除注释、调试代码、未使用的变量或函数,减少冗余,使核心代码更突出。 3. **文件排序**:按照一定的规则(如字母顺序、依赖关系等)对源代码文件进行排序,使得整体结构更有序。 4. **生成...