我在 HortonWorks 虚拟机中运行 Pig 脚本,目的是提取我的 XML 数据集的某些部分,并将这些部分加载到 HCatalog 表的列中。在我的本地机器上,我在 XML 文件上运行我的 Pig 脚本,并获得一个包含所有提取部分的输出文件。但是,由于某种原因,当我在 HortonWorks VM 中运行相同的脚本时,脚本似乎运行成功,但 HCatalog 表仍然为空。
这是我的本地脚本:
REGISTER piggybank.jar
items = LOAD 'data1.xml' USING org.apache.pig.piggybank.storage.XMLLoader('row') AS (row:chararray);
data = FOREACH items GENERATE
REGEX_EXTRACT(row, 'Id="([^"]*)"', 1) AS id:int,
REGEX_EXTRACT(row, 'CreationDate="([^"]*)"', 1) AS creationdate:chararray,
REGEX_EXTRACT(row, 'Score="([^"]*)"', 1) AS score:int,
REGEX_EXTRACT(row, 'Title="([^"]*)"', 1) AS title:chararray;
STORE data INTO '/tmp/postsETLResults' USING PigStorage();
我在 HortonWorks 中使用的那个:
REGISTER piggybank.jar
items = LOAD 'data1.xml' USING org.apache.pig.piggybank.storage.XMLLoader('row') AS (row:chararray);
data = FOREACH items GENERATE
REGEX_EXTRACT(row, 'Id="([^"]*)"', 1) AS id:int,
REGEX_EXTRACT(row, 'CreationDate="([^"]*)"', 1) AS creationdate:chararray,
REGEX_EXTRACT(row, 'Score="([^"]*)"', 1) AS score:int,
REGEX_EXTRACT(row, 'Title="([^"]*)"', 1) AS title:chararray;
STORE data into 'posts_table_1' USING org.apache.hcatalog.pig.HCatStorer();
validate = LOAD 'default.posts_table_1' USING org.apache.hcatalog.pig.HCatLoader();
示例 XML 行(来自 StackOverflow 公共数据集):
<row Id="149115" PostTypeId="2" ParentId="149078" CreationDate="2008-09-29T15:16:23.870" Score="1" Body="<p>I'm sure you can also have Oracle display a query plan so you can see exactly which index is used first.</p>
" OwnerDisplayName="user16324" LastActivityDate="2008-09-29T15:16:23.870" CommentCount="1" />
我手动创建了 HCatalog 表,所有正确的字段都存在并且类型正确。
奇怪的是,如果我dump data
在 Pig 中做,我没有得到任何输出。如果我illustrate data
在日志中看到我的数据片段,然后是大的空白区域,然后是更多数据,等等。
我在这里想念什么?我真的很想拿这个凌乱的 XML 文件并在 HCatalog 中获得一个整洁的表格。同样,在我的机器上运行本地脚本时,我得到了我正在寻找的结果,但是当我运行设计用于将输出存储到posts_table_1
HCatalog 表中的第二个版本时,我收到一条成功消息但一个空表。
或者,如果我可以将本地机器上的输出作为逗号分隔文件获取,我可以使用该文件并让 HCatalog 自动在 Hue 界面中加载数据。截至目前,输出是用空格分隔的,这在 Hue 中是有问题的,因为帖子的标题包含空格。
提前致谢!这让我很难过。