问题标签 [gcs]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
identity - 签名的 GCS URL 得到“SignatureDoesNotMatch”。由具有工作负载身份的服务签名的 URL
在启用工作负载身份的 GKE 集群中,服务签署了 GCS 文件,但在大约 10 天后得到:“SignatureDoesNotMatch”。
系统管理的私钥轮换是否会导致它?
我应该怎么做才能解决它?
python - 如何使用python将多个日期目录中的文件从一个存储桶复制到GCS中另一个存储桶中的另一组相应目录
寻找 python 代码循环遍历文件夹内的多个日期目录 YYYY-MM-DD,其中包含要复制到另一个 GCS 存储桶的 Json 文件;
我还想将“dt =”附加到目标上的每个日期目录,同时我复制文件以使它们投诉到 Hive 分区文件夹结构以构建一个大查询外部表。
相当于
python - 使用 Python 直接从 SFTP 服务器将文件上传到 Google 存储桶
我正在尝试使用云功能将文件从 SFTP 服务器上传到 GCS 存储桶。但是这段代码不起作用。我能够sftp。但是当我尝试在GCS存储桶中上传文件时,它不起作用,要求是使用Python的云功能。
任何帮助将不胜感激。这是我正在尝试的示例代码。这段代码除了sftp.get("test_report.csv", bucket_destination)
. 请帮忙。
java - 有什么区别?
当总记录数较高(以百万计)时,将 iterator_1 设置为非常小的值,例如几千。但是当数据较少时,两者都具有相同的记录集。在 iterator_1 中仅获取值然后设置迭代器。在 iterator_2 中获取所有记录并设置迭代器。
理想情况下,两者都是一样的,对吧?但是得到不一致的输出。有人可以帮忙理解吗?
java - 如何在 Java 中正确迭代 Bigquery TableResult
我正在尝试使用getValues()
如下方式迭代 TableResult 中的行。如果我使用getValues()
,它只检索第一页行。我想使用getValues()
和不使用迭代所有行iterateAll()
。在下面的代码中,问题是它的无限时间。没有结束。while(results.hasNextPage())
没有结束。下面的代码有什么问题?
我在源表中只有 200,000 条记录。下面是输出,我强行停止了这个过程。
python - 使用 Airflow 从 GCS 中的多个目录复制大量文件时如何并行化 GCS copy_blob 操作
我有这段长时间运行的代码,它将文件从一个 GCS 存储桶中的多个日期前缀复制到另一个并添加了一些dt前缀,并且此代码在 composer/Airflow 中运行了 4 个小时,有时它会失败。我正在寻找并行化/优化它的方法,以使 copy_blob 操作更快,类似于gsutil -m cp -r
使用 Python
我已经从https://stackoverflow.com/a/59008580/8518878将函数带到GCS中的list_directories
这是我的实际代码片段,我在其中调用包装在气流中的上述函数,该函数运行了四个小时并且无法复制 160 个日期目录,每个目录中平均有 50 个文件
java - Google BigQuery TableResult getValues() 与 iterateAll()
选项1:
选项 2:
哪个更好。我看不出所用时间有什么不同。getValues() 比 iterateAll() 有什么优势吗?
python - 无法使用 Python 解压缩 GCS 存储桶中受密码保护的 .gz 文件
尝试在 GCS 中解压缩受密码保护的文件,但在下面的代码中出现错误。下面的代码适用于普通的 .gz 文件,但无法解压缩受密码保护的文件。
firebase - 如何将gcs存储桶文件复制到gitlab
在这里我们有一个问题,是否有任何可能的方法可以将经过测试的 android 应用程序的工件(..logs)从 GCS 复制到 gitlab?在 firebase 测试实验室进行测试。
unix - 输入 gcsfuse gs://bucketname/* /home/admin/(vm 实例中的目录) 后,它显示成功安装。但是当我输入 ls 时,它是 0
我也做了'df -h'来查看它是否正确安装,然后它显示它是:
gs://bucketname/* 1.0P 0 1.0P 0% /home/admin/(vm实例中的目录)
但是当我输入 ls -l 时,在 vm 实例的目录中,我得到了总 0。它背后的原因是什么?