2

我正在尝试从 HCatalog 加载表,对数据进行一些练习并将其存储到另一个表中。

源表:stage.iboa_event_definitions

inno_description  string    
inno_id           double    
inno_name     string    
inno_url      string    
inno_valid_from   string    
inno_valid_to     string

目的地表:

create table dictionary (id int,src_id double,source_code string, src_code string,     src_description string, group_code string);

我的脚本:

iboa_event_definitions = LOAD 'stage.iboa_event_definitions' USING org.apache.hcatalog.pig.HCatLoader();
iboa_event_definitions_filter = foreach iboa_event_definitions generate inno_id as src_id, 'IBOA' as source_code, inno_name as src_code, inno_description as src_description, '' as group_code;
iboa_event_definitions_filter_id = RANK iboa_event_definitions_filter;
final_table = foreach iboa_event_definitions_filter_id generate rank_iboa_event_definitions_filter as id:int, src_id, source_code as source_code, src_code, 
src_description, group_code;
store final_table into 'dictionary' using org.apache.hcatalog.pig.HCatStorer();

我得到错误:

2013-11-26 13:18:06,140 [main] INFO org.apache.pig.tools.pigstats.ScriptState - 脚本中使用的 Pig 功能:RANK 2013-11-26 13:18:06,143 [main] INFO org. apache.pig.newplan.logical.rules.ColumnPruneVisitor - 为 iboa_event_definitions 修剪的列:$3、$4、$5 2013-11-26 13:18:06,212 [main] 错误 org.apache.pig.tools.grunt.Grunt - 错误 1115 : 不支持的类型:Pig 的架构中的 10日志文件中的详细信息:/export/home/pig/pig_1385463241554.log

为什么?让我们检查字段类型。

describe iboa_event_definitions_filter_id;
iboa_event_definitions_filter_id: {rank_iboa_event_definitions_filter: long,src_id: double,source_code: chararray,src_code: chararray,src_description: chararray,group_code: chararray}

describe final_table;
final_table: {id: int,src_id: double,source_code: chararray,src_code: chararray,src_description: chararray,group_code: chararray}

也许错误是由 Long 类型引起的?但这就是为什么我尝试将其转换为 int 的原因。

谁能帮我解决这个问题?

谢谢

帕维尔

4

3 回答 3

3

您的错误消息的关键部分是:

Unsupported type: 10 in Pig's schema

当我有一个INT并试图将它存储在一个表中时,这发生在我身上,其中对应的列是 a BIGINT

我的解决方案是更改表(而不是 Pig 脚本),之后商店运行良好。

于 2015-12-11T14:44:26.223 回答
0

类型 10 代表整数(参见http://pig.apache.org/docs/r0.11.1/api/constant-values.html#org.apache.pig.data.DataType.INTEGER)。您的 pig 版本不支持写入 INT 列。

使用 BIGINT 作为解决方法。

于 2014-05-16T17:09:43.437 回答
0

当我尝试在对应列是 BIGINT 的表中存储一个 int 值 [在转换为 int 之后] 时,我也遇到了这个问题。

蜂巢

INT/INTEGER(4 字节有符号整数) BIGINT(8 字节有符号整数)

对应于猪

int 有符号 32 位整数

long 有符号 64 位整数

所以我把我的价值定为,它解决了我的问题。

于 2017-01-03T08:25:23.067 回答