hadoop - 像袋子一样展平元组

Question

我的数据集如下所示：

( A, (1,2) )
( B, (2,9) )

我想“展平” Pig 中的元组，基本上为内部元组中找到的每个值重复每个记录，这样预期的输出是：

( A, 1 )
( A, 2 )
( B, 2 ) 
( B, 9 )

我知道当元组 (1,2) 和 (2,9) 是袋子时，这是可能的。

Answer 1

你的洞察力很好；通过在包中转换元组是可能的。我们要针对的模式是：{a: chararray,{(chararray)}} 例如：(A,{(1),(2)})

这是您的问题的解决方案：

A = LOAD 'data.txt' AS (a:chararray,b:(b1:chararray,b2:chararray));
B = FOREACH A GENERATE a, TOBAG(b.b1,b.b2);
C = FOREACH B GENERATE a, FLATTEN($1);

神奇的部分是 TOBAG 运算符。

Answer 2

您可以使用 DataFu 的 UDF TransposeTupleToBag ( http://datafu.incubator.apache.org/docs/datafu/1.1.0/datafu/pig/util/TransposeTupleToBag.html )，然后将包展平以在包。

Answer 3

我知道这是一个旧线程，但我无法使用上述方法。以为我会分享我的发现。

input: (1-2-3, abc)
       (4-5-6, xyz)
desired output:
       (1, abc)
       (2, abc)
       (3, abc)
       (4, xyz)
       (5, xyz)
       (6, xyz)

最初，我使用 STRSPLIT 生成一个元组，导致与上述类似的输入，但没有成功。

output = FOREACH input GENERATE FLATTEN(TOBAG(STRSPLIT($0, '-'))), $1

这导致输出为：

 (1,2,3,abc)
 (4,5,6,xyz)

但是，当我使用标记化和替换功能时，我得到了所需的输出。

output = FOREACH input GENERATE FLATTEN(TOKENIZE(REPLACE($0,'-', ' '))), $1;