我需要遍历 22GB 压缩文件中的行。展开后,文件大小为 250GB。(这是Google Freebase db dump)
我对流不太了解。有没有办法在我去的时候流式传输文件并对其进行压缩?
这是另一种方式:
var r = fs.createReadStream('file.txt');
var z = zlib.createGzip();
var w = fs.createWriteStream('file.txt.gz');
r.pipe(z).pipe(w);
我需要遍历 22GB 压缩文件中的行。展开后,文件大小为 250GB。(这是Google Freebase db dump)
我对流不太了解。有没有办法在我去的时候流式传输文件并对其进行压缩?
这是另一种方式:
var r = fs.createReadStream('file.txt');
var z = zlib.createGzip();
var w = fs.createWriteStream('file.txt.gz');
r.pipe(z).pipe(w);