3

我是 Hadoop 初学者,但在 Hadoop 1.1.1 中,我正在尝试执行 map -> reduce -> map -> reduce。我很难找到如何在 Java 中执行此操作的具体示例。我真的很好奇整个驱动方法会是什么样子。我目前正在使用这些org.apache.hadoop.mapreduce库(我相信这是最新的代码库)。

另外,如果不需要的话,我不想安装像 Oozie 这样的另一个库。

4

1 回答 1

4

我认为这可能会对您有所帮助:http: //blogs.msdn.com/b/avkashchauhan/archive/2012/03/29/how-to-chain-multiple-mapreduce-jobs-in-hadoop.aspx

您还可以根据您要实现的目标查看 ChainMapper(http://hadoop.apache.org/docs/current/api/org/apache/hadoop/mapred/lib/ChainMapper.html )。不过,这只适用于一个减少。如果你想专门去 map -> reduce -> map -> reduce,我会选择我的第一个链接。

于 2013-02-17T01:20:31.897 回答