0

我们有一个 oozie 工作流，其中包含简单的“create”和“alter”语句，“create”语句在 Hive Action 中使用“RCFILE”文件格式。

我们面临的挑战是这个 Hive 操作有时会成功执行，有时会失败......我们无法解决这个问题。

它抛出关于“serde”的“NoSuchMethodError”异常。

Failing Oozie Launcher, Main class [org.apache.oozie.action.hadoop.HiveMain], main() threw exception, org.apache.hadoop.hive.serde2.typeinfo.TypeInfoFactory.getPrimitiveTypeInfo(Ljava/lang/String;)Lorg/apache/hadoop/hive/serde2/typeinfo/TypeInfo;
java.lang.NoSuchMethodError: org.apache.hadoop.hive.serde2.typeinfo.TypeInfoFactory.getPrimitiveTypeInfo(Ljava/lang/String;)Lorg/apache/hadoop/hive/serde2/typeinfo/TypeInfo;
    at org.apache.hadoop.hive.ql.exec.FunctionRegistry.registerNumericType(FunctionRegistry.java:630)
    at org.apache.hadoop.hive.ql.exec.FunctionRegistry.<clinit>(FunctionRegistry.java:636)
    at org.apache.hadoop.hive.ql.session.SessionState.<init>(SessionState.java:208)
    at org.apache.hadoop.hive.cli.CliSessionState.<init>(CliSessionState.java:78)
    at org.apache.hadoop.hive.cli.CliDriver.run(CliDriver.java:645)
    at org.apache.hadoop.hive.cli.CliDriver.main(CliDriver.java:623)
    at org.apache.oozie.action.hadoop.HiveMain.runHive(HiveMain.java:318)
    at org.apache.oozie.action.hadoop.HiveMain.run(HiveMain.java:279)
    at org.apache.oozie.action.hadoop.LauncherMain.run(LauncherMain.java:38)
    at org.apache.oozie.action.hadoop.HiveMain.main(HiveMain.java:66)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:606)
    at org.apache.oozie.action.hadoop.LauncherMapper.map(LauncherMapper.java:226)
    at org.apache.hadoop.mapred.MapRunner.run(MapRunner.java:54)
    at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java:430)
    at org.apache.hadoop.mapred.MapTask.run(MapTask.java:342)
    at org.apache.hadoop.mapred.YarnChild$2.run(YarnChild.java:167)
    at java.security.AccessController.doPrivileged(Native Method)
    at javax.security.auth.Subject.doAs(Subject.java:415)
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1554)
    at org.apache.hadoop.mapred.YarnChild.main(YarnChild.java:162)

有人可以帮我解决这个问题吗？

4

1 回答 1

0

我有同样的问题。这是在不同的背景下，但我确信根本问题是相同的。该方法的返回类型在Hive 0.13org.apache.hadoop.hive.serde2.typeinfo.TypeInfoFactory.getPrimitiveTypeInfo(String)中被缩小到从破坏 Java 二进制兼容性的 Hive的先前版本中。PrimitiveTypeInfoTypeInfo

似乎org.apache.hadoop.hive.ql.exec.FunctionRegistry是使用 0.13 之前的 hive-serde-xxxjar 版本编译的，但执行类路径包含来自较新的 hive-serde-0.13.x.jar 的版本。

解决方案是确保 hive-serde-nnnjar 和 hive-exec-nnnjar （或org.apache.hadoop.hive.ql.exec.FunctionRegistry在您的情况下来自任何地方）在类路径上具有一致的版本。

于 2015-01-31T19:37:34.160 回答