3

Kafka Streams有一个接口 ，Processor它的实现是有状态的。开发人员指南中给出的示例实现是：

public class WordCountProcessor implements Processor<String, String> {

  private ProcessorContext context;
  private KeyValueStore<String, Long> kvStore;

  @Override
  @SuppressWarnings("unchecked")
  public void init(ProcessorContext context) {
      // keep the processor context locally because we need it in punctuate() and commit()
      this.context = context;

      // call this processor's punctuate() method every 1000 time units.
      this.context.schedule(1000);

      // retrieve the key-value store named "Counts"
      kvStore = (KeyValueStore) context.getStateStore("Counts");
  }

  @Override
  public void process(String dummy, String line) {
      String[] words = line.toLowerCase().split(" ");

      for (String word : words) {
          Long oldValue = kvStore.get(word);
          if (oldValue == null) {
              kvStore.put(word, 1L);
          } else {
              kvStore.put(word, oldValue + 1L);
          }
      }
  }

  @Override
  public void punctuate(long timestamp) {
      KeyValueIterator<String, Long> iter = this.kvStore.all();
      while (iter.hasNext()) {
          KeyValue<String, Long> entry = iter.next();
          context.forward(entry.key, entry.value.toString());
      }
      iter.close();
      // commit the current processing progress
      context.commit();
  }

  @Override
  public void close() {
      // close the key-value store
      kvStore.close();
  }

}

该init方法初始化WordCountProcessor的内部状态，例如检索键值存储。其他方法，例如processand close，利用这种状态。

我不清楚如何reify在 Clojure 中使用这样的接口。我们将如何传递由initto process、close等检索到的状态？

使用闭包？

我的一个想法是使用闭包：

(let [ctx (atom nil)]
  (reify Processor
    (close [this]
      ;; Do something w/ ctx
      )
    (init [this context]
      (reset! ctx context))
    (process [this k v]
      ;; Do something w/ ctx
      )
    (punctuate [this timestamp]
      ;; Do something w/ ctx
      )))

烦人的是，我们ProcessorContext每次都必须从对象开始，因此键值存储代码将在所有需要键值存储的方法中重复。

我没有看到解决这个问题的（一般）方法，尽管根据具体情况，我们可以用ctx方法需要的更具体的状态替换原子。

有没有更好的办法？

4

1 回答 1

2

关闭一个原子将是做到这一点的主要方法。您的原始类有两个字段，因此您可以关闭两个原子以获得相同的效果

(let [ctx (atom nil)
      kv-store (atom nil)]
  (reify Processor
    ,,,
    (init [this context]
      (reset! ctx context)
      (reset! kv-store (.getStateStore context "Counts")))
    ,,,))

如果这仍然太乏味，那么您可以添加一些也关闭原子的便利功能

(let [ctx (atom nil)
      kv-store (atom nil)]

  (def kv-get [key]
    (.get @kv-store key))

  (def kv-all []
    (iterator-seq (.all @kv-store)))

  (def kv-put [key value]
    (.put @kv-store key value))

  (reify Processor
    ,,,
    (init [this context]
      (reset! ctx context)
      (reset! kv-store (.getStateStore context "Counts")))
    ,,,
  (punctuate [this timestamp]
    (do-seq [x (kv-all)]
      ,,,)
  )))

另一种方法是使用gen-class，但认为使用 reify 会更好。

于 2016-12-17T09:53:38.553 回答