我想知道如何为需要节流的 REST 服务实现包装器。该服务的速率限制为例如“每分钟最多 60 次呼叫”或类似的。过度使用资源意味着我的客户端被阻塞了很长时间,所以我必须注意不要让这种情况发生,因此我希望包装器本身受到速率限制。
编辑:删除最终想法并将其作为答案发布
我想知道如何为需要节流的 REST 服务实现包装器。该服务的速率限制为例如“每分钟最多 60 次呼叫”或类似的。过度使用资源意味着我的客户端被阻塞了很长时间,所以我必须注意不要让这种情况发生,因此我希望包装器本身受到速率限制。
编辑:删除最终想法并将其作为答案发布
回答我自己的问题,受@Alex 的评论启发,这个解决了时间跨度 T 内最多 N 个请求的问题。它将最后 N 个请求的时间保存在一个列表(循环缓冲区)中,如果最旧的请求则允许该请求call 早于 T。
public class Throttler<T>
{
private readonly long[] callTimes;
private int cur;
private readonly Func<T> func;
private readonly TimeSpan interval;
private readonly object padlock = new object();
public Throttler(Func<T> func, int maxCalls, TimeSpan interval)
{
this.func = func;
callTimes = new long[maxCalls];
this.interval = interval;
cur = 0;
}
public T Call()
{
lock (padlock)
{
do
{
long oldestCall = callTimes[(cur + 1)%callTimes.Length];
long now = DateTime.UtcNow.Ticks;
if (now - oldestCall > interval.Ticks)
{
cur = (cur + 1) % callTimes.Length;
callTimes[cur] = now;
return func();
}
int sleepTime = (int)((interval.Ticks - (now - oldestCall))/TimeSpan.TicksPerMillisecond) + 1;
Thread.Sleep(sleepTime);
} while (true);
}
}
}