我们有一个 ElasticSearch-Logstash-Kibana 部署,其中多个 logstash-forwarder(来自多个服务日志)将日志推送到 logstash,然后将其发送到 Kafka,然后另一个 logstash 从 Kafka 中提取这些日志并在 ElasticSearch 集群中对它们进行索引。
有人可以告诉我:-
- 在这种部署中处理流量高峰的最佳方法是什么?
- 我们能否以这样一种方式配置 Kafka,即单个 logstash-forwarder(单个服务)不会占用整个设置?我们要确保所有服务都可以公平地使用设置?
- 如何确保一个指标与其他指标相比不会增长巨大?我们有多个服务日志的许多日常索引,我们希望确保在峰值期间,如果一个服务索引(或分片)变得太大,我们希望阻止该服务日志。这样集群性能不会受到影响?