问题标签 [python-bigquery]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
398 浏览

python-3.x - 如何在 python 中一起使用多个 bigquery 项目

假设我有一个大查询项目 A 和 B。我需要将项目 A 的表与项目 B 连接起来。我们如何使用 python 连接两个项目。

在上面的代码中,我只能使用一个 project_id。如果我需要使用多个代码,可以为此做些什么?

0 投票
1 回答
85 浏览

python - Apache Beam + 大查询表读取

我在项目的大查询中有数据集:项目:project-x 表:table01 数据集:dataset01

例如,我想从 Apache Beam 连接到它并读取一个 column-column01 的值...

这就是我所拥有的:

所以执行后我什么也没得到......我认为这是一些基本问题,但我刚刚开始并且真的很想看到一些结果。谢谢你的帮助。

0 投票
2 回答
2944 浏览

sql - 如何在 Bigquery 中使用 except 子句?

我正在尝试使用ExceptBigquery 中的现有子句。请在下面找到我的查询

如您所见,我正在使用 3 张桌子。所有 3 个表都有该hosp_id列,所以我想删除重复的列,即b.hosp_idc.hosp_id。同样,我也想删除b.person_id列。

当我执行上述查询时,我得到如下所示的语法错误

请注意,我在Except子句中使用的所有列都存在于使用的表中。附加信息是所有使用的表都是使用子句创建的临时表with。当我通过选择感兴趣的列手动执行相同操作时,它工作正常。但我有几列,无法手动执行此操作。

你能帮我吗?我正在尝试学习 Bigquery。您的意见会有所帮助

0 投票
1 回答
745 浏览

python - python bigquery 库 DB-API 接口如何支持 WHERE IN 或 WHERE ANY 子句

我正在使用 python bigquery 库https://googleapis.dev/python/bigquery/latest/index.html的 DB-API 接口。当我将参数传递给 WHERE IN 或 WHERE ANY 子句的 Cursor.execute() 时,它会引发如下错误

谷歌云大查询版本:1.19.0

输出

任何帮助表示赞赏。

0 投票
1 回答
1672 浏览

python - 使用 Python 客户端将 CSV 附加到 BigQuery 表

我每周都有一个格式相同的新 CSV 文件,我需要使用 Python 客户端将其附加到 BigQuery 表中。我使用第一个 CSV 成功创建了表,但我不确定如何附加后续的 CSV。我发现的唯一方法是 google.cloud.bigquery.client.Client().insert_rows() 方法。请参阅此处的api 链接。这将要求我首先将 CSV 作为字典列表读取。有没有更好的方法将数据从 CSV 附加到 BigQuery 表?

0 投票
1 回答
114 浏览

google-bigquery - 如何在 Bigquery 中解释查询过程 GB?

我正在使用 Google bigquery 的免费试用版。这是我正在使用的查询。

此查询预计最多返回 300 条记录,并且不超过此。

但是我看到这样的消息如下

在此处输入图像描述

但是这个查询操作的表确实很大。这是否表明桌子的大小?但是,我每天多次运行此查询

因此,导致以下错误

超出配额:您的项目超出了扫描的免费查询字节的配额。有关详细信息,请参阅https://cloud.google.com/bigquery/troubleshooting-errors

我需要等待多长时间才能消除此错误?是每日限制1TB吗?如果是,那么我没有使用 close to 400 GB

如何查看我的日常使用情况?

如果可以edit quota,您能告诉我应该编辑哪个选项吗?

你能帮我解决以上问题吗?

0 投票
1 回答
1629 浏览

pandas - 使用 pandas 将时间戳插入 bigquery 表

我在 Google bigquery 中有一个表,其中一列设置为数据类型时间戳。

我必须使用熊猫的 to_gbq 函数插入数据。

如果我将数据类型设置为字符串而不是时间戳,则数据将加载到表中。

但我希望该列是时间戳数据类型。

如何将数据框的列类型转换为与 Google bigquery 兼容的时间戳。

错误

在此处输入图像描述

表架构

在此处输入图像描述