问题标签 [kafka-cluster]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
61 浏览

apache-kafka - kafka集群消费单机多网口

我有一台具有 3 个网络接口的 Linux 机器,假设 IP 是 192.168.1.101,192.168.1.102,192.168.1.103 我想使用这个单个节点的所有 3 个 IP 来创建一个与其他节点的 Kafka 集群,如果所有 3 个 IP 都有他们独立的经纪人?也不推荐使用网卡绑定,所有IP都需要使用

0 投票
1 回答
145 浏览

java - Kafka 集群有时在搜索和轮询期间不返回任何记录

我正在试验一个 Kafka 集群(3 个节点),我打算使用以下 kafka 客户端依赖项使用一个简单的 java 应用程序围绕冗余和可用性(停止集群中的节点等)运行一些测试:-

我将复制因子配置为 3 以确保跨所有节点复制主题,并且我只为主题使用 1 个分区。我正在努力理解我在此示例代码中看到的一些行为,特别是在寻求偏移量时(一个节点离线):-

当集群中的一个节点离线时,此代码有时会返回“未找到记录”:-

未找到记录 找到记录:1 未找到记录 找到记录:1 找到记录:1 找到记录:1 未找到记录 找到记录:1 找到记录:1 找到记录:1 找到记录:1 找到记录:1 找到记录:1 否找到记录 找到记录:1 找到记录:1 找到记录:1 找到记录:1 找到记录:1 未找到记录

你会注意到我每次都在 while 循环中创建消费者。这是为了模拟不同的消费者进入和连接,因为每个消费者都有不同的消费者组 ID。将消费者创建移到while 循环之外(并删除co​​nsumer.close())会产生大部分预期的结果,即所有日志都显示“找到的记录:1”。但是,“有时”第一次民意调查将不返回任何记录,所有剩余的都显示找到 1 条记录:-

createConsumer 代码定义如下供参考:-

我想了解这种行为,以便能够可靠地运行我的可用性测试。

0 投票
0 回答
10 浏览

apache-kafka - 使用时间戳时 Kafka 代理中消息的持久性

据我所知,Kafka 存储消息,我们可以配置消息可以保留多长时间。无论是通过时间,还是通过大小。如果我们使用 size 设置来持久化消息,它会不会是滚动清除。即,从溢出中清除旧消息?

0 投票
0 回答
15 浏览

apache-kafka - Mirrormaker2:KafkaJSProtocolError:组成员支持的协议与现有成员的协议不兼容

我正在尝试设置 mirrormaker 。我已经将mirrormaker进程停靠了起来。我有两个 kafka 集群在同一台机器上运行。

卡夫卡码头工人在下面

第二个卡夫卡码头工人

如您所见,一个正在运行9092,另一个正在运行9093

我有consumer.properties如下

producer.properties如下_

当我尝试向 发布消息时kafka on 9092,出现以下错误

有人可以帮我解决这个问题。如果需要,请向我询问更多详细信息

0 投票
1 回答
22 浏览

apache-kafka - 当 Kafka 代理在配置的保留时间/字节之前用完空间时会发生什么?

我知道大多数系统都应该进行监控以确保不会发生这种情况(并且我们应该正确设置保留策略),但我只是好奇如果 Kafka Broker 确实耗尽了磁盘空间会发生什么(例如,如果我们将保留时间设置为 30 天,但代理在第一天就用完了磁盘空间)?

在单个 Broker 场景中,Broker 是否只是停止接收任何新消息并向 Producer 返回异常?还是删除旧消息为新消息腾出空间?

在多Broker场景中,假设我们有Broker A(分区的leader,但没有更多磁盘空间)和Broker B(分区的follower,仍然有磁盘空间),leader会转移到Broker B吗?当两个经纪人都用完空间时会发生什么?它是否也向生产者返回异常?