3

我决定要研究使用 NodeJS 服务器处理大量流量的最佳方法是什么，我在 2 个具有 1GB RAM / 2 个 CPU 无集群服务器代码的数字海洋服务器上做了一个小测试：

// Include Express
var express = require('express');

// Create a new Express application
var app = express();

// Add a basic route – index page
app.get('/', function (req, res) {
    res.redirect('http://www.google.co.il');
});

// Bind to a port
app.listen(3000);
console.log('Application running');

集群服务器代码：

    // Include the cluster module
var cluster = require('cluster');
// Code to run if we're in the master process
if (cluster.isMaster) {
    // Count the machine's CPUs
    var cpuCount = require('os').cpus().length;

    // Create a worker for each CPU
    for (var i = 0; i < cpuCount; i += 1) {
        cluster.fork();
    }
// Code to run if we're in a worker process
} else {
    // Include Express
    var express = require('express');

    // Create a new Express application
    var app = express();

    // Add a basic route – index page
    app.get('/', function (req, res) {
        res.redirect('http://www.walla.co.il');
    });

    // Bind to a port
    app.listen(3001);
    console.log('Application running #' + cluster.worker.id);
}

我向这些服务器发送了压力测试请求，除了集群服务器将处理更多请求，但它没有发生，两台服务器在相同的负载下崩溃，尽管集群上运行了 2 个节点服务，非节点上运行了 1 个服务-簇。

现在我想知道为什么？我做错什么了吗？

也许还有其他东西使服务器达到断点？两台服务器都以约 800 rps 的速度崩溃

4

2 回答 2

11

现在我想知道为什么？我做错什么了吗？

您的测试服务器除了res.redirect(). 如果您的请求处理程序基本上不使用 CPU，那么您根本不会受到 CPU 的限制，并且您不会从涉及更多 CPU 中受益。您的集群将在处理传入连接时遇到瓶颈，无论是否使用集群，这将大致相同。

现在，向您的请求处理程序添加一些重要的 CPU 使用率，您应该会得到不同的结果。

例如，更改为：

// Add a basic route – index page
app.get('/', function (req, res) {

    // spin CPU for 200ms to simulate using some CPU in the request handler
    let start = Date.now();
    while (Date.now() - start < 200) {}

    res.redirect('http://www.walla.co.il');
});

运行测试是一件好事，但你必须小心你到底在测试什么。

于 2018-01-01T14:59:46.767 回答
1

@jfriend00 说的是正确的；您实际上并没有做足够的繁重来证明这一点，但是，您实际上并没有分担负载。看这里：

app.listen(3001);

您不能将两个服务绑定到同一个端口，并让操作系统神奇地对它们进行负载平衡[1]；尝试添加错误处理程序app.listen()并查看是否出现错误，例如

app.listen(3001, (err) => err ? console.error(err));

如果你想这样做，你必须接受你的主人的一切，然后指示工人完成任务，然后再次将结果传回主人。

不过，通常不在您的 Node 程序中执行此操作会更容易；您的前端仍然是限制因素。一种更简单（更快）的方法可能是在应用程序的多个运行实例（即 HAProxy 或 Nginx）前面放置一个特殊用途的负载均衡器。

[1]：这实际上是一个谎言；对不起。您可以通过指定SO_REUSEPORT何时进行初始bind调用来执行此操作，但您不能在 Node 中明确指定，并且 Node 没有为您指定它......所以您不能在 Node.js 中指定它。

于 2018-01-01T15:08:15.800 回答