问题标签 [google-bucket]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
85 浏览

google-cloud-platform - 文件停止在 Ubuntu 18.04 VM 中从 Google Cloud 存储桶下载

我正在尝试在运行 Ubuntu 18.04 的虚拟机中从我的 Google 存储下载一个大型数据集,但我的下载中途停止。我正在使用命令:

我设法下载了一个较小的数据集,但这个数据集的大小接近 4 GB,但每次它只是在 1.1 GB 时停止下载。首先 MB/S 下降,然后停止在 0.0 MB/S。

我已经增加了 VM 的磁盘大小,但这也无济于事。我删除了位于我的文件夹中的文件,该文件确保尽可能恢复下载,因为它不起作用。

有什么建议么?

0 投票
2 回答
70 浏览

google-cloud-platform - 谷歌存储桶配置主页

我做了一个桶让我们称之为我的桶。我给这个存储桶提供了“传统存储读取”,这意味着它不应该列出存储桶,但如果有人知道存储桶内特定文件或文件夹的 URL,他们可以访问它。

如果我在 URL 中输入唯一的存储桶地址,即使访问被拒绝,我也会在存储桶网站配置中添加 index.html(位于存储桶的根目录中)作为主页。如果我只是转到存储桶 URL,任何人都知道为什么存储桶不会路由到 index.html 吗?

在此处输入图像描述

0 投票
1 回答
84 浏览

logging - 数据访问和访问透明度云审核日志中的数据有多敏感?

我想了解可以在 GCP 中的数据访问和访问透明度云审核日志中捕获的内容,以认为用户查看日志更具“风险”。也就是说,为什么需要将这些日志与管理员活动日志分开,例如需要权限 logging.privateLogEntries.list 才能查看这些日志?

我认识到 callerIP 可以被视为个人信息(在 GDPR 的上下文中),但这可以从不需要额外权限 logging.privateLogEntries.list 的管理员活动日志中识别出来。

我知道数据访问日志和访问透明度日志会列出例如存储桶名称 - 这是否可以被视为敏感的范围?

秘密会暴露在日志中吗?我在 GCP 文档中找不到足够的详细信息。

0 投票
1 回答
118 浏览

javascript - 如何将大文件分块并上传到 Google 存储桶

我正在尝试从 nodejs 将较大的文件上传到谷歌存储桶。上传任何低于 200MB 大小标记的文件都可以正常工作。大于该值的任何内容都会返回错误

通过我有一个那么大的文件,我发现该节点确实对 blob/文件的大小有限制。这是两个都抛出相同错误的代码片段

这个是上传流

当然只是一个常规的桶上传

我认为唯一的解决方案是对文件进行分块,分块上传,然后重新加入存储桶中的文件块。问题是我不知道该怎么做,而且我在 google 或 GitHub 上找不到该条款的任何文档

0 投票
3 回答
302 浏览

google-cloud-platform - (GCS) 查看此对象的元数据所需的其他权限:请求对象所有者授予您“storage.objects.get”权限

当我单击文件的名称以查看Cloud Storage“细粒度”访问控制的详细信息时:

在此处输入图像描述

我可以看到详细信息:

在此处输入图像描述

但是,将访问控制“细粒度”更改为“统一”后:

在此处输入图像描述

我看不到文件的详细信息并收到此错误:

在此处输入图像描述

查看此对象的元数据所需的其他权限:请求对象所有者授予您“storage.objects.get”权限(例如,通过授予您的账户 IAM 存储管理员角色)。

有什么方法可以解决错误以查看具有访问控制“统一”的文件的详细信息?

0 投票
2 回答
33 浏览

python - 使用 python 读取谷歌存储桶文件

我必须阅读 xlsx 格式的谷歌存储桶文件。桶中的文件结构看起来像

python片段看起来像

在上面的代码片段中,我试图打开folder_name_2,它返回一个错误,因为没有要读取的文件。

function1当任何文件夹中没有文件时,我需要使用打印错误,而不是抛出错误。

有什么想法吗?

0 投票
1 回答
38 浏览

node.js - 如何将屏幕截图从 puppeteer 上传到 cloudinary 或 google bucket?

我正在将屏幕截图保存到我的 react frontend build src 文件夹中,但是我在部署后发现您无法将图像保存到此文件夹中。

所以我正在研究 cloudinary 并对文档感到困惑

我有这样的云设置:

在这行代码之后:

根据作为他们示例的文档,但我在云端的家庭图书馆中什么也没得到?

有谁知道如何简单地将屏幕截图上传到 cloudinary 甚至谷歌云存储桶,以便我的反应前端应用程序实际上可以渲染屏幕截图?

谢谢!

0 投票
1 回答
24 浏览

google-cloud-platform - 在 Google vertex ai 上创建自定义模型

我应该使用 Google 的托管 ML 平台 Vertex AI 来为实习构建端到端的机器学习工作流程。尽管我完全按照教程进行操作,但是当我运行训练作业时,我看到了以下错误消息:

根据教程,我们不应该在存储桶中有 /model 目录。模型应该创建这个目录并将最终结果保存在那里。

我添加了这个目录,但仍然面临这个错误。有没有人有任何想法,提前谢谢:)

0 投票
0 回答
59 浏览

scala - Scala:复制和删除 GCP 存储桶中的文件

我正在将 spark 工作从私有数据中心迁移到 GCP。早些时候,我使用 hadoop.fs 中的 FileSystem 在 maprfs 中传输和删除文件。但是对于 GCP 存储桶,这是行不通的。我必须将文件从目录 A 传输到同一 GCP 存储桶中的目录 B,然后在传输后从目录 A 中删除文件。以下两种方法在 GCP 中不起作用。您能否建议 scala 中支持传输和删除谷歌云存储桶中文件的任何其他库。

删除方法:

文件传输方式:

0 投票
1 回答
48 浏览

google-cloud-platform - 使用云存储选项从谷歌存储桶中的目录中删除所有对象

我正在使用谷歌云中的云存储选项来管理 GCP 存储桶中的数据。我有一个目录,我想在开始编写新对象之前删除该目录下的所有对象。示例目录:gs://bucket-name/directory1/subdirectory/

我可以使用以下代码删除单个对象,但是如何获取目录中所有对象的列表并删除所有对象?