我有一批500 messages
。为了发送它们,我使用了外部 API,它一次只允许发送 1 条消息。此外,它们的速率限制为10/seconds
.
如果只有一个实例,那么我可以通过在 API 调用之间添加延迟来处理速率限制。但在我的情况下,实例数量不固定。这完全取决于我收到的流量。
假设我已经10 instances
运行并且他们正在处理 500 条消息的批次中的消息。所以,我总共要处理 5000 条消息。但是,10/seconds
如果所有实例都使用相同的凭据调用相同的 API,那么速率限制就会在每个实例的单个 API 调用后超出速率限制。
当它将尝试发送第二条消息时,他们将在429 error
超出速率限制时收到。
现在,我想确保组合所有 10 个实例只会10
每秒发送消息。我该如何实施?
任何更好的建议或建议表示赞赏!