尝试在 2 个副本和 1 个主盒上设置 kafka 时,遇到了一个奇怪的情况,我无法消费或生产某个主题。
使用Mirror Maker在副本 <--> Master之间同步数据。不断获取以下日志:
[2016-08-26 14:28:33,897] 警告引导代理 localhost:9092 已断开连接(org.apache.kafka.clients.NetworkClient)[2016-08-26 14:28:43,515] 警告引导代理 localhost:9092 已断开连接( org.apache.kafka.clients.NetworkClient) [2016-08-26 14:28:45,118] 警告引导代理 localhost:9092 已断开连接 (org.apache.kafka.clients.NetworkClient) [2016-08-26 14:28: 46,721]警告引导代理本地主机:9092断开连接(org.apache.kafka.clients.NetworkClient)[2016-08-26 14:28:48,324]警告引导代理本地主机:9092断开连接(org.apache.kafka.clients.NetworkClient) [2016-08-26 14:28:49,927] 警告引导代理 localhost:9092 已断开连接(org.apache.kafka.clients.NetworkClient)[2016-08-26 14:28:53,029] 警告引导代理 localhost:9092 已断开连接( org.apache.kafka.clients.NetworkClient)**
我可以恢复的唯一方法是重新启动产生这种日志的 Kafka:
[2016-08-26 14:30:54,856] WARN 发现一个损坏的索引文件,/tmp/kafka-logs/__consumer_offsets-43/00000000000000000000.index,删除和重建索引...(kafka.log.Log)[2016 -08-26 14:30:54,856] INFO 恢复日志 __consumer_offsets-43 中未刷新的段 0。(kafka.log.Log) [2016-08-26 14:30:54,857] INFO 已完成日志 __consumer_offsets-43 的加载,日志结束偏移量为 0 (kafka.log.Log) [2016-08-26 14:30:54,860 ] WARN 发现一个损坏的索引文件,/tmp/kafka-logs/__consumer_offsets-26/00000000000000000000.index,删除并重建索引... (kafka.log.Log) [2016-08-26 14:30:54,860] INFO恢复日志 __consumer_offsets-26 中未刷新的段 0。(kafka.log.Log) [2016-08-26 14:30:54,861] INFO 已完成日志 __consumer_offsets-26 的加载,日志结束偏移量为 0 (kafka.log.Log) [2016-08-26 14:30:54,864 ] WARN 发现一个损坏的索引文件,
错误 向主题 dr_ubr_analytics_limits 发送消息时出错,键:null,值:1 个字节,错误:(org.apache.kafka.clients.producer.internals.ErrorLoggingCallback)org.apache.kafka.common.errors.TimeoutException:更新失败60000 毫秒后的元数据。**
这是我的测试阶段,所以我能够重新启动并从主盒恢复,但我想知道是什么导致了这个问题以及如何避免它。有没有办法调试这个问题?
试图通过 Kafka 实现以下目标