问题标签 [bq-load]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
321 浏览

google-bigquery - 如何使用插入符号(^)分隔符将数据加载到 BigQuery

我浏览了 BQ 中所有支持的文件类型的文档。但是我遇到了这个问题。

考虑一下,我有一个示例压缩文件 .gz,其格式为 -

文件类型 :

命令:

当我使用带有自动模式的 GUI 上传文件时,它会正确加载数据。但是当我尝试 bq load cmd 时它失败了,说 -

错误 :

关于插入符号分隔文件的任何想法?

谢谢

0 投票
1 回答
547 浏览

google-cloud-platform - 如何使用 bq load 命令在 BigQuery 中加载 csv 文件数据?

我已经在 BigQuery 数据集中创建了多个表,并且我有很多 csv 文件存储到 GCS 中,现在我想将 csv 文件数据加载到每个表中。我使用以下命令将数据从 csv 文件加载到表中。表包含更多 300 多列。

==================================================== =======================

错误:

等待 bqjob_r1f519b38e9e242d9_0000016f80889252_1 ... (1s) 当前状态:完成

加载操作中的 BigQuery 错误:处理作业“upbeat-repeater-257414:bqjob_r1f519b38e9e242d9_0000016f80889252_1”时出错:

读取数据时出错,错误信息:CSV 表遇到太多错误,放弃。行数:1;错误: 1. 请查看 errors[] 集合以获取更多详细信息。故障详情:

  • gs://new007/t1851data.csv:读取数据时出错,错误消息:CSV 表引用列位置 317,但从位置:0 开始的行仅包含 138 列。
  • 您正在加载数据而不指定数据格式,默认情况下数据将被视为 CSV 格式。如果这不是您的意思,请通过 --source_format 指定数据格式。

我怎样才能加载任何 csv 文件而不会出现任何错误。请向我建议加载数据的无忧策略。

0 投票
1 回答
1012 浏览

bq-load - 解析从以下位置开始的行时检测到错误:1830577。错误:关闭双引号 (") 和字段分隔符之间的数据

我试图将表从 Teradata 加载到 BQ。我的管道首先将表数据导出到 gcs 位置,然后使用 bqload,将数据从 gs:// 加载到 bq 表。

我的 bqload 看起来像这样

但是当我尝试使用 bq load 将数据加载到 bq 表中时出现以下错误

我尝试在 bqload 命令中使用几个选项,例如 --quote ="" ,当我使用它时,它给了我一个不同的错误,如下所示

也玩了很长时间其他选项,但没有给我任何结果。有人可以发光吗?

0 投票
1 回答
70 浏览

google-bigquery - 尝试从 AVRO 文件创建表时 BQ 加载作业失败

我正在尝试从 AVRO 文件创建一个 BQ 表。运行 BQ 加载作业时出现此错误:

“读取数据时出错,错误消息:Apache Avro 库无法解析标头并出现以下错误:默认值的类型异常。预期为长,但发现为空:空”

AVRO 文件的架构是:

我不确定架构或其他任何问题有什么问题,因此我无法加载数据。

0 投票
1 回答
24 浏览

json - 通过命令行将带有特殊字符 unicode 的 JSON 文件推送到 bigquery

我试图通过 bqcmd 将 json 文件推送到 BQ,其中包含特殊字符,例如 ü 但失败。我尝试了不同的编码等。除了删除字符之外没有任何工作

Json File 在引入特殊字符之前是成功的

BQ 命令: