0

我正在尝试使用 node、socket.io 和 redis 实现一个消息队列。我正在尝试遵循此处概述的可靠队列模式。我正在尝试逐行读取日志文件（大小为 60M）（稍后将更改）并将这些行泵入队列以供稍后处理。但是，我遇到了内存分配问题。我不确定如何解决此问题，并希望获得一些关于从哪里开始的指导。我不知道问题是在读取文件还是在 redis 客户端。我已经能够像这样将消息一一添加到队列中：

socket.emit('message', 'some sort of log line here');

因此，我知道侦听器正在工作，但是当我运行 socketClient.js 文件时，它会旋转一段时间，然后最终失败并出现以下一般错误消息：

致命错误：JS 分配失败 - 进程内存不足

是否有一些错误处理或我可以添加的分析以获取有关失败位置的更多信息？

这是代码：

socketListener.js

var util = require("util"),
redis = require("redis"),
io = require('socket.io').listen(8088)

client = redis.createClient("7777", "localhost");

util.log("Established connection to redis");

io.sockets.on('connection', function(socket) {

    util.log("socket connection established for socket : " + socket);

    socket.on('message', function (data) {
         util.log("received the following data : ");
         util.log(JSON.stringify(data, 0, 3));
         client.on("error", function(err) {
            util.log("Error " + err);
        });

        try {
            // reliable queue pattern implementation
            util.log("queuing up the data in the list");
            client.rpush('logList', data);
            client.brpoplpush('logList', 'dequeueList', 10); 
        } catch (err) {
            util.log("An error occurred : ");
            util.log(JSON.stringify(err, 0, 3));
        }
    });

    socket.on('disconnect', function() {});

});

socketClient.js

var io = require("socket.io-client");
var socket = io.connect('http://localhost:8088');
var redis = require('redis');
var util = require('util');
var fs = require('fs');
var readline = require('readline');

socket.on('connect', function() {
client = redis.createClient("7777", "localhost");   
    var rd = readline.createInterface({
    input: fs.createReadStream('someLogFile.log'),
    terminal: false
    });

rd.on('line', function(line) {
    util.log("reading line " + line);
    socket.emit('message', line);
});

    client.lrange('dequeueList', 0, -1, function(err, results) {
        if (err) {
           util.log(err);
        } else {
            var multi = client.multi();
            for (var i=0; i < results.length; i++) {
                util.log('got : ' + results[i]);
                multi.hgetall(results[i]);
            }
            multi.exec(function(err, logs) {
                util.log("executing the multi commands");
                util.log(JSON.stringify(logs, 0 ,3));
            })
        };
    });

})

预先感谢您的帮助！

4

0 回答 0