0

我有一批500 messages。为了发送它们,我使用了外部 API,它一次只允许发送 1 条消息。此外,它们的速率限制为10/seconds.

如果只有一个实例,那么我可以通过在 API 调用之间添加延迟来处理速率限制。但在我的情况下,实例数量不固定。这完全取决于我收到的流量。

假设我已经10 instances运行并且他们正在处理 500 条消息的批次中的消息。所以,我总共要处理 5000 条消息。但是,10/seconds如果所有实例都使用相同的凭据调用相同的 API,那么速率限制就会在每个实例的单个 API 调用后超出速率限制。

当它将尝试发送第二条消息时,他们将在429 error超出速率限制时收到。

现在,我想确保组合所有 10 个实例只会10每秒发送消息。我该如何实施?

任何更好的建议或建议表示赞赏!

4

0 回答 0