我有一个托管在 Heroku 上的 NodeJS 服务器。这是一个通知应用程序，所以有时我会一次收到数千个（我会说是 5,000-6,000 个请求）到我的服务器。因此它得到了很好的备份，并且由于超时 H13 错误，3,000-4,000 个请求将失败，该端点基于 heroku 它经常需要service=6ms返回，但是当流量很高时，它会不断增加到 30,000（超时限制），所以它超时了。我知道一个测功机一次处理 1 个请求，所以我添加了更多测功机（最多 8 个测功机作为测试的一部分）并使用节点集群 - 减少我的 web_memory 变量，以便我在每个测功机上获得更多 WEB_CONCURRENCY。我一直在尝试切换不同的 web_concurrency 和 dyno 计数。但是我注意到，无论我有 1 个 dyno 还是 8 个 dyno，当它超过 500 个请求（每秒）时，我的 heroku 服务器开始变慢，后来超时。我还检查了我的 Heroku 指标，并注意到测功机负载平均只有 0.1。我在 1x dyno 和 2x dyno 之间进行测试，但结果是一样的。我不确定我在这里缺少什么。请告诉我非常感谢。
问问题
26 次