8

我们有一个问题,似乎 Kafka 消费者没有收到发布到主题的消息。(我说似乎我还没有深究,我可能是错的。)

我正在为 Apache Kafka 使用 Spring,而我的使用者实际上是一个用@KafkaListener.

这个问题是间歇性的,我无法重新创建它。

有没有办法让我查看 Kafka 代理的日志,或任何其他工具来帮助我找出我的消费者的偏移量?我想要具体的证据证明我的消费者是否收到了消息。

4

3 回答 3

12

看看 kafka-consumer-groups 工具,它可以用来检查消费者的偏移和滞后(消费者在你运行这个命令的时候必须是活跃的)。

./kafka-consumer-groups --bootstrap-server 127.0.0.1:9092 --new-consumer --describe --group console-consumer-55936

GROUP                          TOPIC                          PARTITION  CURRENT-OFFSET  LOG-END-OFFSET  LAG             OWNER
console-consumer-55936         test                           0          6               6               0               consumer-1_/192.168.0.83
console-consumer-55936         test                           1          1               1               0               consumer-1_/192.168.0.83
console-consumer-55936         test                           2          1               1               0               consumer-1_/192.168.0.83
console-consumer-55936         test                           3          1               1               0               consumer-1_/192.168.0.83
console-consumer-55936         test                           4          2               2               0               consumer-1_/192.168.0.83
console-consumer-55936         test                           5          1               1               0               consumer-1_/192.168.0.83
console-consumer-55936         test                           6          1               1               0               consumer-1_/192.168.0.83
console-consumer-55936         test                           7          2               2               0               consumer-1_/192.168.0.83
console-consumer-55936         test                           8          1               1               0               consumer-1_/192.168.0.83

这应该允许您跟踪是否有任何东西实际被消耗。

于 2017-03-02T15:55:46.897 回答
1

除了使用正确且完全有效的另一个答案中描述的 ./kafka-consumer-groups 之外,您还可以使用 Windows GUI 应用程序向您显示有关 Consumer_groups 及其偏移量/滞后的相同信息:

http://www.kafkatool.com/download.html

于 2017-03-08T12:32:48.593 回答
0

Apache Kafka 的集群管理器(以前称为 Kafka 管理器)显示消费者偏移量以及消费者滞后:

消费滞后

然而,详细视图还显示了分区的详细偏移量: 具有详细偏移信息的消费者分区

CMAK:github 上的集群管理器

它具有许多允许管理和监视多个 kafka 集群的功能,我们使用它多年并且非常高兴。

它正在积极开发中,并支持最新版本的 kafka。

它比运行 kafka 命令行更重,但docker 使设置更容易

于 2020-11-02T08:15:21.710 回答