java - 如何相交不同的JavaPairRDD

Question

我有两个不同的 JavaPairRdd 一个带有 Key1,value 和第二个带有 key2,value 。我试图实现的是合并它们，但只获得具有相同值的项目。

我尝试了以下方法：

 JavaPairRDD<String, String> finalRdd = filteredRdd.intersection(filteredsmallRdd);

其中 filtersRdd 包含 key:Country , value 和 filteredsmallRdd 包含: key:id , value 。并且我需要哪些元素具有相同的值，与交集我认为比较唯一的关键，我得到一个空的解决方案，知道如何做到这一点吗？

Answer 1

您可以使用swap将值更改为每个 rdd 的键，然后执行交集。

JavaPairRDD<String,String> finalRdd = filteredRdd.mapToPair(f -> f.swap()).intersection(filteredsmallRdd.mapToPair(f -> f.swap()));