我正在为实时投标实现一些 api,它要求我实现一个 http 服务器。但是为了让它保持运行,我必须在内部做出响应100ms
,它也可以达到50,000
每秒的请求数,所以我必须放置一个带有许多实例的负载均衡器。所以,因为响应时间对我来说非常宝贵,
负载均衡器如何影响这一点?
我正在为实时投标实现一些 api,它要求我实现一个 http 服务器。但是为了让它保持运行,我必须在内部做出响应100ms
,它也可以达到50,000
每秒的请求数,所以我必须放置一个带有许多实例的负载均衡器。所以,因为响应时间对我来说非常宝贵,
负载均衡器如何影响这一点?
SSL 终止会消耗资源(CPU 能力)。您可以将它放在负载均衡器或 Web 服务器上,但无论哪种方式,您都需要考虑您是否真的需要 SSL 以及您将使用什么级别的加密。
请记住,如果您要获得流量高峰,您应该预热负载均衡器。
除了负载均衡器不应该真正成为延迟的根本用途之外,它可能是您的 Web 服务器变得饱和,因此请确保您使用正确的应用程序/流量指标设置自动缩放。
您可以做很多其他事情来超载您的 Web 服务器需要做的工作(缓存、PHP 的 APC、将静态文件移至 CDN、缓存 DB 调用或使用非关系 DB、使用 Nginx 而不是 Apache)
编辑:AWS ELB 是为自动扩展而构建的。我无法找到有关延迟是什么以及这如何影响您的响应时间的数据。如果您有兴趣,您可以测试直接访问服务器与访问 LB,但我怀疑结果可以忽略不计。用足够的流量访问您的 LB(或服务器),您会看到响应时间大大增加。