通过说集群信息,我指的是像这样的信息
- 订阅的消费者/消费者组
- 读取和提交的偏移量
- 分区的领导者和追随者
- 服务器上的主题等。
Zookeeper 是否将此信息保存在自己的数据库中(尽管到目前为止我从未听说过 zookeeper 拥有自己的任何数据库),或者它将这些信息存储在某些主题等的 Kafka 集群中?
通过说集群信息,我指的是像这样的信息
Zookeeper 是否将此信息保存在自己的数据库中(尽管到目前为止我从未听说过 zookeeper 拥有自己的任何数据库),或者它将这些信息存储在某些主题等的 Kafka 集群中?
ZooKeeper 数据模型 ZooKeeper 具有分层名称空间,很像分布式文件系统。唯一的区别是命名空间中的每个节点都可以有与其关联的数据以及子节点。这就像拥有一个允许文件也成为目录的文件系统。节点的路径始终表示为规范的、绝对的、斜线分隔的路径;没有相对参考。
所以没有数据库。
偏移量保存在kafka中,而不是zookeeper中,在这个主题中:__consumer_offsets
在 zookeeper 节点中:
ls /brokers/ids
ls /经纪人/主题
获取 /brokers/ids/0
在这里,您可以阅读有关 zookeeper 中 kafka 数据结构的更多信息:Kafka datastructures zookeeper
有一个完全删除 zookeeper 的 KIP:KIP Remove zookeeper