3

我想知道如何为需要节流的 REST 服务实现包装器。该服务的速率限制为例如“每分钟最多 60 次呼叫”或类似的。过度使用资源意味着我的客户端被阻塞了很长时间,所以我必须注意不要让这种情况发生,因此我希望包装器本身受到速率限制。

编辑:删除最终想法并将其作为答案发布

4

1 回答 1

2

回答我自己的问题,受@Alex 的评论启发,这个解决了时间跨度 T 内最多 N 个请求的问题。它将最后 N 个请求的时间保存在一个列表(循环缓冲区)中,如果最旧的请求则允许该请求call 早于 T。

public class Throttler<T>
{
   private readonly long[] callTimes;
   private int cur;      
   private readonly Func<T> func;
   private readonly TimeSpan interval;
   private readonly object padlock = new object();    

   public Throttler(Func<T> func, int maxCalls, TimeSpan interval)
   {
      this.func = func;
      callTimes = new long[maxCalls];
      this.interval = interval;
      cur = 0;
   }

   public T Call()
   {
      lock (padlock)
      {
         do
         {
            long oldestCall = callTimes[(cur + 1)%callTimes.Length];
            long now = DateTime.UtcNow.Ticks;               
            if (now - oldestCall > interval.Ticks)
            {                 
               cur = (cur + 1) % callTimes.Length;                  
               callTimes[cur] = now;
               return func();
            }
            int sleepTime = (int)((interval.Ticks - (now - oldestCall))/TimeSpan.TicksPerMillisecond) + 1;               
            Thread.Sleep(sleepTime);               
         } while (true);
      }
   }
}
于 2013-08-27T10:58:10.933 回答