5

我有一些代码可以从 Google Cloud Storage 上传和下载文件。下面是一个简短的例子：

import (
    "context"
    "io"
    "cloud.google.com/go/storage"
)

func upload(bucket, keyName, path string, reader io.Reader) error {
    ctx := context.Background()
    client, err := storage.NewClient(ctx)

    if err != nil {
        return err
    }
    defer client.Close()

    obj := client.Bucket(bucket).Object(path)
    writer := obj.NewWriter(ctx)

    defer writer.Close()

    writer.KMSKeyName = keyName

    if _, err = io.Copy(writer, reader); err != nil {
        return err
    }
    if err = writer.Close(); err != nil {
        return err
    }
    return nil
}

棘手的部分是我使用 Google KMS 来管理用于加密文件的密钥（Google 所谓的“客户管理的加密密钥”方案）。我的理解是，这种加密发生在 Google 端。

我发现使用 Go CDK 的唯一解决方案是使用 Google KMS 加密文件，然后上传加密的 blob。有没有办法像我以前用 Go CDK 一样指定加密密钥？

谢谢

4

2 回答 2

4

如果您需要在 Go CDK 中使用特定于提供程序的设置，您可以使用各种As函数来获取底层提供程序 API 的句柄。在这种情况下，您可能希望使用该blob.WriterOptions.BeforeWrite选项。这样做的好处是，BeforeWrite如果您决定稍后切换存储桶提供程序（例如，用于单元测试），则不会有任何操作。

import (
    "context"
    "io"

    "cloud.google.com/go/storage"
    "gocloud.dev/blob"
    _ "gocloud.dev/blob/gcsblob" // link in "gs://" URLs
)

func upload(ctx context.Context, bucket, keyName, path string, reader io.Reader) error {
    bucket, err := blob.OpenBucket(ctx, "gs://" + bucket)
    if err != nil {
        return err
    }
    defer bucket.Close()

    writeCtx, cancelWrite := context.WithCancel(ctx)
    defer cancelWrite()
    writer, err := bucket.NewWriter(writeCtx, path, &blob.WriterOptions{
        // Use BeforeWrite to set provider-specific properties.
        BeforeWrite: func(asFunc func(interface{}) bool) error {
            var gcsWriter *storage.Writer
            // asFunc returns true if the writer can be converted to the type
            // pointed to.
            if asFunc(&gcsWriter) {
                gcsWriter.KMSKeyName = keyName
            }
            return nil
        },
    })
    if err != nil {
        return err
    }
    if _, err := io.Copy(writer, reader); err != nil {
        cancelWrite()  // Abort the write to the bucket.
        writer.Close()
        return err
    }
    if err := writer.Close(); err != nil {
        return err
    }
    return nil
}

（虽然与您的问题没有直接关系，但我在代码中添加了中止写入错误以避免将部分对象上传到您的存储提供程序。我们正在添加文档，以演示如何在未来使用 Go CDK API 执行常见任务，见#1576。）

于 2019-03-26T15:17:22.483 回答
2

您发布的代码是正确的。具体来说，此行指示 API 使用提供的 Cloud KMS 密钥加密数据：

writer.KMSKeyName = keyName

一些可能会妨碍您的事情：

  • 确保您的 Cloud KMS 密钥和 Cloud Storage 存储分区位于同一区域。例如，如果您的存储桶位于“US”，则您的 KMS 密钥也必须位于“US”。

  • 确保您已授予 Cloud Storage 服务帐户访问权限以使用 KMS 密钥。您可以找到您的云存储服务帐户的电子邮件，然后授予其使用您的 KMS 密钥的权限：

    $ gcloud kms keys add-iam-policy-binding my-key \
    --project my-project \
    --keyring my-keyring \
    --location us \
    --member serviceAccount:service-1234567890@gs-project-accounts.iam.gserviceaccount.com \
    --role roles/cloudkms.cryptoKeyEncrypterDecrypter

  • 确保您正在捕获从upload上游返回的错误。所有这些故障模式都会导致错误，所以我想知道它是否在某个地方丢失了。

证明它有效：

// Completely unmodified version of your `upload` function
func main() {
    bucket := "<hidden>"
    kmsKey := "projects/<hidden>/locations/us/keyRings/kr/cryptoKeys/k"
    if err := upload(bucket, kmsKey, "foo", strings.NewReader("hello world")); err != nil {
        log.Fatal(err)
    }
}

执行时，这会在 CMEK 支持的 GCS 中正确创建一个对象。

证明工作

于 2019-03-25T13:44:15.083 回答