2

我正在尝试使用 LZO 压缩文件流，但并没有走得太远。具体来说，在提取我的compressFileWithLzo1x函数创建的存档文件时出现分段错误。

我的main函数和原型声明是：

#include <stdio.h>
#include <stdlib.h>
#include "lzo/include/lzo/lzo1x.h"

#define LZO_IN_CHUNK (128*1024L)
#define LZO_OUT_CHUNK (LZO_IN_CHUNK + LZO_IN_CHUNK/16 + 64 + 3)

int compressFileWithLzo1x(const char *inFn, const char *outFn);
int extractFileWithLzo1x(const char *inFn);

int main(int argc, char **argv) {

    const char *inFilename = "test.txt";
    const char *outFilename = "test.txt.lzo1x";

    if ( compressFileWithLzo1x(inFilename, outFilename) != 0 )
        exit(EXIT_FAILURE);

    if ( extractFileWithLzo1x(outFilename) != 0 )
        exit(EXIT_FAILURE);

    return 0;
}

这是我的压缩功能的实现：

int compressFileWithLzo1x(const char *inFn, const char *outFn) {

    FILE *inFnPtr = fopen(outFn, "r");
    FILE *outFnPtr = fopen(outFn, "wb");
    int compressionResult;
    lzo_bytep in;
    lzo_bytep out;
    lzo_voidp wrkmem;
    lzo_uint out_len;
    size_t inResult;

    if (lzo_init() != LZO_E_OK)
        return -1;

    in = (lzo_bytep)malloc(LZO_IN_CHUNK);
    out = (lzo_bytep)malloc(LZO_OUT_CHUNK);
    wrkmem = (lzo_voidp)malloc(LZO1X_1_MEM_COMPRESS);

    do { 
        inResult = fread(in, sizeof(lzo_byte), LZO_IN_CHUNK, inFnPtr);
        if (inResult == 0)
            break;
        compressionResult = lzo1x_1_compress(in, LZO_IN_CHUNK, out, &out_len, wrkmem);
        if ((out_len >= LZO_IN_CHUNK) || (compressionResult != LZO_E_OK))
            return -1;
        if (fwrite(out, sizeof(lzo_byte), (size_t)out_len, outFnPtr) != (size_t)out_len || ferror(outFnPtr))
            return -1;
        fflush(outFnPtr);
    } while (!feof(inFnPtr) && !ferror(inFnPtr));

    free(wrkmem);
    free(out);
    free(in);
    fclose(inFnPtr);
    fclose(outFnPtr);

    return 0;
}

下面是我的解压功能的实现：

int extractFileWithLzo1x(const char *inFn) {

    FILE *inFnPtr = fopen(inFn, "rb");
    lzo_bytep in = (lzo_bytep)malloc(LZO_IN_CHUNK);
    lzo_bytep out = (lzo_bytep)malloc(LZO_OUT_CHUNK);
    int extractionResult; 
    size_t inResult;
    lzo_uint new_length;

    if (lzo_init() != LZO_E_OK)
        return -1;

    do {
        new_length = LZO_IN_CHUNK;
        inResult = fread(in, sizeof(lzo_byte), LZO_IN_CHUNK, inFnPtr);
        extractionResult = lzo1x_decompress(out, LZO_OUT_CHUNK, in, &new_length, NULL);
        if ((extractionResult != LZO_E_OK) || (new_length != LZO_IN_CHUNK))
            return -1;
        fprintf(stderr, "out: [%s]\n", (unsigned char *)out);
    } while (!feof(inFnPtr) && (!ferror(inFnPtr));

    free(in);
    free(out);
    fclose(inFnPtr);

    return 0;
}

分段错误发生在这里：

extractionResult = lzo1x_decompress(out, LZO_OUT_CHUNK, in, &new_length, NULL);

这种导致分段错误的方法有什么问题？

我希望这次我没有遗漏任何代码。如果我需要添加更多信息，请随时告诉我。提前感谢您的建议。

4

3 回答 3

2

您正在压缩独立的块。LZO 解压器需要压缩数据的字节长度，因为当它解码 EOF 时，它会检查它是否已经消耗了所有输入字节（如果没有则返回错误），因此您还需要存储每个压缩块的长度. 因此，您需要更复杂的文件格式。例如：

# compressing, in python-like pseudocode
ifile = open("data", "rb")
ofile = open("data.mylzo", "wb")
input, input_len = ifile.read(65536)
while input_len > 0:
  compressed, compressed_len = lzo1x(input, input_len)
  compressed_len -= 1 # store len-1 of next block
  if compressed_len < 65536 - 1:
    ofile.write(compressed_len & 255) # be sure of endianess in file formats!
    ofile.write(compressed_len >> 8)
    ofile.write(compressed)
  else:
    ofile.write(255) # incompressible block stored it as-is (saves space & time).
    ofile.write(255)
    ofile.write(input)
  input, input_len = ifile.read(65536)
ofile.close()
ifile.close()

# decompressing, in python-like pseudocode
ifile = open("data.mylzo", "rb")
ofile = open("data", "wb")
compressed_len_s = ifile.read(2)
while len(compressed_len_s) == 2:
  compressed_len = (compressed_len_s[0] | (compressed_len_s[1] << 8)) + 1
  if compressed_len == 65536:
    ofile.write(ifile.read(65536)) # this can be done without copying
  else:
    compressed = ifile.read(compressed_len)
    decompressed = lzo1x_decompress(compressed, compressed_len)
    ofile.write(decompressed)
  compressed_len_s = ifile.read(2)
ofile.close()
ifile.close()

如果您希望能够在不跳过的情况下解压缩块（用于并行解压缩或随机访问），您应该将压缩块的长度放在开始处，在第一个块之前。在它们之前加上块的数量。

最后一个块可以短于 64k，并且它可以是不可压缩的，但我们仍将存储压缩形式，即使它比非压缩形式长，因为只有完整的 64k 块按原样存储。如果整个文件小于 64k，它会增长。

于 2012-04-22T07:55:11.093 回答
1

您提供的代码不会编译（在 ; 中是虚假=的#defines，inFilePtr而不是inFnPtr在各个地方等）。但：

  1. 压缩时，您没有考虑 . 返回的实际数据量fread()，这很可能小于LZO_IN_CHUNK.

    compressionResult = lzo1x_1_compress(in, LZO_IN_CHUNK, out, &out_len, wrkmem);

    应该是

    compressionResult = lzo1x_1_compress(in, inResult, out, &out_len, wrkmem);

    （这不太可能是问题，但会在文件末尾添加虚假垃圾。）

  2. 解压的时候遇到类似的问题，in /out参数反了，很可能是你的segfault的原因。

    extractionResult = lzo1x_decompress(out, LZO_OUT_CHUNK, in, &new_length, NULL);

    应该是

    extractionResult = lzo1x_decompress(in, inResult, out, &new_length, NULL);
于 2010-11-20T23:51:58.010 回答
1

我认为您在以下位置打开了错误的文件int compressFileWithLzo1x：

FILE *inFnPtr = fopen(outFn, "r");

它应该是

FILE *inFnPtr = fopen(inFn, "r");
于 2012-11-16T09:46:32.833 回答