我认为您可能误解了关机期间超时的使用。从理论上讲,无论这些事件之间的时间如何,您都在消耗无限的事件流,因此除非您正在更新代码或机器崩溃,否则您的 consuner永远不应关闭。在实际需要关闭消费者的情况下,10000 毫秒超时的作用是让 Kafka 消费者有足够的时间将其最后读取的偏移量写入 ZooKeeper,以便当消费者重新启动时,它将从它处理的最后一个偏移量恢复。这种消费者关闭通常发生在您的程序关闭时(可能捕获到 InterruptedException),而不仅仅是消费者。因此,当您的程序重新启动时,consuner 会重新启动。
编辑
我应该补充一点,Kafka 的ConsumerIterator遵循这种永无止境的消费模式的原因。迭代器的next方法将一直阻塞,直到它可以读取下一条消息。因此,达到示例中超时的唯一方法是消费者线程因某种异常而关闭。
编辑 2
我还没有看到任何支持回调的 Kafka 消费者 API 我认为您现在唯一的选择是编写自己的回调实现,例如:
public interface Callback {
void call(MessageAndMetadata message);
}
Executor executor = Executors.newCachedThreadPool();
final Callback<byte[], byte[]> callback = new MyCallback();
while (it.hasNext()) {
final MessageAndMetadata message = it.next();
executor.submit(new Runnable() {
public void run() {
callback.call(message);
}
});
}
您可能对他们目前正在为 Kafka 0.9 重写消费者 API感兴趣,但我认为我没有在重写中看到回调(尽管我可能是错的)。