3

我无法使用内置的 .net 4.0 Gzip 和 Deflate 类以编程方式解压缩 3GB(7GB 未压缩)gzip 文件。

我的理解是它们都应该支持超过 4GB 的文件,但它们似乎不起作用。当我使用 WinRAR 手动解压缩有问题的文件,然后使用流式阅读器流式传输底层 csv 文件并计算行数时,我得到了预期的结果,大约 7500 万行。但是,当使用 GzipStream 或 DeflateStream 执行此操作时,流读取器会在一半多一点处停止(正好在 4GB 标记附近)并报告“流结束”并在没有错误的情况下结束。使用这些阅读器,我只能在流结束前到达大约 3400 万行。

然后我尝试了.net zip http://dotnetzip.codeplex.com/的最新二进制文件,它运行到一半并引发错误。“目标数组不够长。检查 destIndex 和长度,以及数组的下限。”

我没有创建这个文件,但我们以前从未遇到过来自同一来源的较小文件的问题,所以我怀疑大小是导致问题的原因。可能是用于创建此文件的工具不兼容 64 位,但在我对创建者进行错误处理之前,我想确保在 gzip 提取器逻辑中该错误不在我们这边。

任何想法将不胜感激。下面的示例提取代码和测试方法:

var msGZ = 0;//gives 34million
var fileName = @"C:\MyFile.csv.gz";
using (System.IO.Stream input = System.IO.File.OpenRead(filename))
using (var gz = new GZipStream(stream, CompressionMode.Decompress))
using (var r = new StreamReader(gz))
{
    while (!r.EndOfStream)
    {
        r.ReadLine();
        msGZ++;
    }
}



var msDF = 0;  //gives 34million
using (System.IO.Stream input = System.IO.File.OpenRead(filename))
using (var df = new DeflateStream(stream, CompressionMode.Decompress))
using (var r = new StreamReader(df))
{
    while (!r.EndOfStream)
    {
        r.ReadLine();
        msDF++;
    }
}



var csvCount = 0;//roughly 75million lines

using (var ms = System.IO.File.OpenRead("UncompressedBYWinRAR.csv"))
{
    var r = new StreamReader(ms);
    while (!r.EndOfStream)
    {
        r.ReadLine();
        csvCount++;
    }
}




var zipNet = 0;

//Zip.Net throws this error half way through at around line 34million
//"Destination array was not long enough. Check destIndex and length, and the array's lower bounds."

using (System.IO.Stream input = System.IO.File.OpenRead(filename))
using (Stream decompressor = new Ionic.Zlib.GZipStream(input, Ionic.Zlib.CompressionMode.Decompress, true))
using (var r = new StreamReader(decompressor))
{
    while (!r.EndOfStream)
    {
        r.ReadLine();
        zipNet++;
    }
}
4

1 回答 1

0

使用来自SharpZip的GZipInputStream而不是 Io.GZipStream 提供了解决方案。

于 2017-12-29T00:15:23.603 回答