7

给定一个标准的 Express.js 设置

const express = require('express');
const app = express();
const router = express.Router();

router.get('/test/:id', (req, res) => {
  return res.status(200).json({ hello: 'world' });
});

app.use('/api', router);

app.listen(3000, () => console.info('Up on port 3000));

我一个接一个地向端点发出 1000 个请求：

const fetch = require('node-fetch');
for (let i = 0; i < 1000; i++) {
  let id = Math.floor(Math.random() * 12) + 1;
  fetch(`http://localhost:3000/api/test/${id}`).then(res => res.json()).then(data => console.log(data)).catch(error => console.error(error));
}

我确实看到了返回的数据，但是我时不时地看到一个ECONNRESET错误。错误消息的数量ECONNRESET也各不相同：有时我收到一些，有时更多。我确实理解该消息，但我无法解决其背后的问题。

这是一个示例错误：

{ FetchError: request to http://localhost:3000/api/test/8 failed, reason: connect ECONNRESET 127.0.0.1:3000
    at ClientRequest.<anonymous> (node_modules/node-fetch/lib/index.js:1345:11)
    at ClientRequest.emit (events.js:182:13)
    at Socket.socketErrorListener (_http_client.js:399:9)
    at Socket.emit (events.js:182:13)
    at emitErrorNT (internal/streams/destroy.js:82:8)
    at emitErrorAndCloseNT (internal/streams/destroy.js:50:3)
    at process.internalTickCallback (internal/process/next_tick.js:72:19)
  message:
   'request to http://localhost:3000/api/departments/8 failed, reason: connect ECONNRESET 127.0.0.1:3000',
  type: 'system',
  errno: 'ECONNRESET',
  code: 'ECONNRESET' }

请注意，我已尝试使用 axios 发出请求，内置的 HTTP 模块全部可用。我确定问题出在我的 Express 应用程序处理请求但不确定如何准确修复它。

更新1：

根据评论中的建议，这是异步版本：

async function f() {
  const array = Array.from(Array(1000).keys());
  for (const el of array) {
    try {
      let id = Math.floor(Math.random() * 12) + 1;
      const result = await fetch(`http://localhost:3000/api/test/${id}`).then(res => res.json());
      console.log(result);
      return result;
    } catch(e) {
      console.log(e);
    }
  }
}

f();

现在我偶尔会收到ECONNREFUSED消息。

更新 2：

根据 Mazki516 的回答，这是可行的解决方案：

// previous require statements
const cluster = require('cluster');
const os = require('os');

if (cluster.isMaster) {
  const cpuCount = os.cpus().length
  for (let i = 0; i < cpuCount; i++) {
      cluster.fork()
  }
} else {
  const app = express();
  // rest of the route definitions
  // also app.listen() etc...
}
cluster.on('exit', worker => {
  console.log(`${worker.id} removed`);
  cluster.fork();
});
4

1 回答 1

8

您看到这种情况的原因之一是因为您在 "parallel" 中进行调用。您确实开始一个接一个地调用，但循环可能会在服务器返回的第一个结果之前结束。循环一直持续到结束，使调用堆栈充满了对服务器的 1000 个异步请求。

您正在达到硬件/软件限制，并且代码没有任何问题。如果您确实想构建一个可以同时处理 1k（以及更多）请求的服务器，我会查看 node 的“集群”模块。

请注意，在服务器之间进行网络作业时，可以使用并发限制。（例如：最多并发 4 个请求）

但是您总是可以将您的服务器扩展到一台机器之外并处理更多的流量。

于 2018-11-16T15:57:07.730 回答