0

我正在尝试使用 Flume NG 将文本文件中的日志收集到 HBase。日志文件中的每一行都是 JSON 文本，我将它们作为值插入到 HBase 表中。问题是我不知道如何自定义行键模式。例如，当我计算表中的行数时：

hbase(main):001:0> count 'flume-ng-test', 100000
Current count: 100000, row: default32e473e0-4f54-48b5-8081-c3f845b38456         
Current count: 200000, row: default65b0cc3d-5421-4bb1-87e2-b21c2841fcd6         
Current count: 300000, row: default98be85e3-bb9f-402e-8f36-0db74cb8ab44         
Current count: 400000, row: defaultcbf888dc-e2bb-492f-ab17-63f5e0327344         
Current count: 500000, row: defaultfedc40e5-04b4-49a4-8734-655f43956d6e         
502224 row(s) in 8.1540 seconds

行键是default + UUID_like_string. 如果我想使用当前时间戳（升序或降序）更改行键模式，我应该怎么做？

感谢您的任何评论。

4

1 回答 1

5

在 flume-ng 的 HBase sink 中，HbaseEventSerializer实现负责生成行键。默认实现org.apache.flume.sink.hbase.SimpleHbaseEventSerializer已经支持以 format 生成时间戳行键prefix + current timestamp，使用它只需相应地修改您的水槽配置。

hbase-agent.sinks.sink1.type = org.apache.flume.sink.hbase.HBaseSink
hbase-agent.sinks.sink1.channel = ch1
hbase-agent.sinks.sink1.table = demo
hbase-agent.sinks.sink1.columnFamily = cf
hbase-agent.sinks.sink1.serializer = org.apache.flume.sink.hbase.SimpleHbaseEventSerializer
hbase-agent.sinks.sink1.serializer.payloadColumn = col1
hbase-agent.sinks.sink1.serializer.keyType = timestamp

如果提供的基于时间戳的密钥生成方法不是您所追求的，那么您需要为HbaseEventSerializerFlume 提供自定义实现，这将要求您：

  1. 创建自己的行键生成器类（默认是org.apache.flume.sink.hbase.SimpleRowKeyGenerator）
  2. 创建您自己的HbaseEventSerializer接口实现（默认实现是org.apache.flume.sink.hbase.SimpleHbaseEventSerializer），它将使用您在第一步中创建的自定义行键生成器
  3. 修改您的水槽 hbase 接收器配置以使用自定义HbaseEventSerializer实现。
于 2012-09-23T12:14:49.600 回答