我们有一个 Kafka 集群,由 3 个节点组成,每个节点具有 32GB 的 RAM 和 6 核 2.5 CPU。
我们编写了一个 kafka 生产者,它从 twitter 接收推文并将其分批发送到 Kafka 5000 条推文。
在 Producer 中我们使用producer.send(list<KeyedMessages>)
方法。
推文的平均大小为 7KB。
打印发送语句前后的时间(以毫秒为单位)来测量发送 5000 条消息所用的时间,我们发现大约需要 3.5 秒。
问题
我们测试 Kafka 性能的方式是否正确?
是否使用带有键控消息列表的 send 方法将一批消息发送到 Kafka 的正确方法?还有其他方法吗?
影响生产者性能的重要配置有哪些?