2

我需要将结构保存到磁盘并稍后再次读取它，我试图将 IO 降低到最低限度，但也不花费时间压缩和解压缩文件，所以我打算使用 Snappy 进行压缩，因为它非常快并且相对有效。

通常我会在将 gob 保存到文件时对其进行 gzip 压缩，如下所示：

func (t *Object) Save(filename string) error {
    // Open file for writing
    fi, err := os.Create(filename)
    if err != nil {
        return err
    }
    defer fi.Close()
    // Attach gzip writer
    fz := gzip.NewWriter(fi)
    defer fz.Close()
    // Push from the gob encoder
    encoder := gob.NewEncoder(fz)
    err = encoder.Encode(t.Classifier)
    if err != nil {
        return err
    }
    return nil
}

但是 Snappy 并没有附加到其他所有东西似乎都在使用的这些 Reader/Writer 接口。相反，它只提供基本功能： https ://godoc.org/code.google.com/p/snappy-go/snappy

func Encode(dst, src []byte) ([]byte, error)

func Decode(dst, src []byte) ([]byte, error)

使用这个 Snappy 包压缩 Gob 数据的最有效方法是什么？理想情况下，我不想使用 ioutil.ReadAll 从 gob 读取器中读取一个字节，然后重新压缩，因为这似乎是一种非常繁重的方式，会浪费大量内存.

我承认我并不完全理解阅读器和编写器接口是如何工作的。

4

1 回答 1

5

包 snappystream

import "github.com/mreiferson/go-snappystream"

snappystream 包装了 snappy-go，并为 snappy 帧流格式提供了 Reader 和 Writer。

你考虑过包 snappystream 吗？例如，

package main

import (
    "encoding/gob"
    "fmt"
    "os"

    "github.com/mreiferson/go-snappystream"
)

type Object struct {
    Classifier struct{}
}

func (t *Object) Save(filename string) error {
    // Open file for writing
    fi, err := os.Create(filename)
    if err != nil {
        return err
    }
    defer fi.Close()
    // Attach snappy writer
    fs := snappystream.NewBufferedWriter(fi)
    // Push from the gob encoder
    encoder := gob.NewEncoder(fs)
    err = encoder.Encode(t.Classifier)
    if err != nil {
        return err
    }
    err = fs.Close()
    if err != nil {
        return err
    }
    err = fi.Close()
    if err != nil {
        return err
    }
    return nil
}

func main() {
    obj := Object{}
    err := obj.Save("obj.sz")
    if err != nil {
        fmt.Println(err)
    }
}
于 2014-11-12T06:13:40.927 回答