0

在通过 Tom White 的书 Hadoop: The Definitive Guide 学习 Apache Avro 时,我遇到了一个错误。

该示例有 3 个步骤:

  1. 创建 Avro 架构文件 ( Pair.avsc)

    {
       "type":"record",
       "name":"Pair",
       "doc":"A pair of strings.",
       "fields":[
          { "name":"left", "type":"string" },
          { "name":"right", "type":"string" }
       ]
    }
    
  2. 编译模式文件以创建一个 Java 类 ( Pair.java) 使用

    $ java -jar $AVRO_HOME/avro-tools-1.6.2.jar compile schema src/main/resources/Pair.avsc src/main/java/

  3. 使用SpecificDatumWriter<Pair>andSpecificDatumReader<Pair>序列化/反序列化数据。

原始示例方法testPairSpecific()位于https://github.com/tomwhite/hadoop-book/blob/master/avro/src/main/java/AvroTest.java中。

我重写了示例代码(createPairAndSerializeThenDeserialize()https://github.com/philipjkim/avro-examples/blob/master/src/test/java/org/sooo/AvroTest.java中),这与原始代码几乎相似。不同之处在于:

  1. 我使用的 Avro 版本是 1.6.2,原来是 1.3.2。
  2. Pair.javaavro-tools.jar 创建的内容不同(原文: https ://github.com/tomwhite/hadoop-book/blob/master/avro/src/main/java/Pair.java ,我的:https:// github.com/philipjkim/avro-examples/blob/master/src/main/java/org/sooo/Pair.java

运行测试后,我得到一个错误:

java.lang.NullPointerException
at java.lang.String.replace(String.java:2228)
at org.apache.avro.specific.SpecificData.createSchema(SpecificData.java:195)
at org.apache.avro.specific.SpecificData.getSchema(SpecificData.java:140)
at org.apache.avro.specific.SpecificDatumWriter.<init>(SpecificDatumWriter.java:33)
at org.sooo.AvroTest.createPairAndSerializeThenDeserialize(AvroTest.java:86)
    ...

AvroTest.createPairAndSerializeThenDeserialize()是:

@Test
public void createPairAndSerializeThenDeserialize() throws IOException {
    // given
    Pair datum = new Pair();
    datum.setLeft(new Utf8("L"));
    datum.setRight(new Utf8("R"));

    // serialize
    ByteArrayOutputStream out = new ByteArrayOutputStream();
    DatumWriter<Pair> writer = new SpecificDatumWriter<Pair>(Pair.class); /* Line 86 */
    Encoder encoder = EncoderFactory.get().binaryEncoder(out, null);
    writer.write(datum, encoder);
    encoder.flush();
    out.close();

    // deserialize
    DatumReader<Pair> reader = new SpecificDatumReader<Pair>(Pair.class);
    Decoder decoder = DecoderFactory.get().binaryDecoder(out.toByteArray(),
    null);
    Pair result = reader.read(null, decoder);

    // then
    assertThat(result.getLeft().toString(), is("L"));
    assertThat(result.getRight().toString(), is("R"));
}

我想知道这个例子有什么问题。感谢您的任何评论。

仅供参考,我的示例项目回购是https://github.com/philipjkim/avro-examples

4

1 回答 1

3

您的Pair.avsc文件缺少自定义包名称的命名空间字段:

...
  "namespace": "org.sooo",
...
于 2012-03-06T14:43:46.200 回答