2

我对嵌套数据的概念相对较新，并试图了解正确的方法来扁平化 BigQuery 中的一些 GA 数据 ( https://support.google.com/analytics/answer/3437719?hl=en )。

现在给出一些上下文，对于每个访问者会话，我试图捕获查看的产品 SKU 列表（详细视图）以及是否有交易，交易 id。根据我的估计，在做了一些研究之后，最简单的方法是这样的，使用 LEFT JOINS 来恢复所有内容：

SELECT fullVisitorId as uId, visitId as vId, h.transaction.transactionId as 
trId, STRING_AGG(p.productSKU, "|") as skus
FROM
`test-bigquery.12345678.ga_sessions_*` t
  LEFT JOIN UNNEST(hits) h
  LEFT JOIN UNNEST(h.product) p
WHERE 
_TABLE_SUFFIX = '20170709'
AND h.eCommerceAction.action_type = '2'
GROUP BY uId, vId, trId

但是，这似乎返回零结果，其中 trId 不为空......

然后，我尝试将上述内容分成两个查询并加入。这似乎可行，并返回看似合理的行数（~1000），其中 trId 不为空。

WITH skus AS
(SELECT fullVisitorId as uId, visitId as vId, STRING_AGG(p.productSKU, "|") as skus
    FROM
    `test-bigquery.12345678.ga_sessions_*` t
      LEFT JOIN UNNEST(hits) h
      LEFT JOIN UNNEST(h.product) p
    WHERE 
    _TABLE_SUFFIX = '20170709'
    AND h.eCommerceAction.action_type = '2'
    GROUP BY uId, vId),
transactions AS
  (SELECT fullVisitorId as uId_trans, visitId as vId_trans,  h.transaction.transactionId as trId
    FROM
    `test-bigquery.12345678.ga_sessions_*` t
      LEFT JOIN UNNEST(hits) h
    WHERE 
      _TABLE_SUFFIX = '20170709'
      AND h.transaction.transactionId IS NOT NULL
      GROUP BY uId_trans, vId_trans, trId)
SELECT skus.uId, skus.vId, transactions.trId, skus.skus
FROM skus
LEFT JOIN transactions ON transactions.vId_trans = skus.vId AND transactions.uId_trans = skus.uId

如果有人能解释为什么两者不给出相同的答案，并希望让我能够在未来参与各种嵌套乐趣，那就太棒了....谢谢！

4

1 回答 1

2

你犯的错误发生在这一行：

AND h.eCommerceAction.action_type = '2'

如果您检查该字段的ga session schemaaction_type，您会看到当客户刚刚看到产品时它的值为“2”，而当交易发生时它的值为“6”。因此，如果您仅过滤掉等于“2”的操作，那么您将无法获得交易，因为它们的值为“6”。

在您的第二个查询中，请注意您的查询transactions不再过滤出 where 操作是“2”，而是过滤掉 wheretrasactionId不为空，因此您现在可以成功检索这些行。

还有一些方法可以极大地优化查询，例如：

SELECT 
  fullvisitorid,
  visitid,
  ARRAY(SELECT STRUCT(prods.productsku AS sku, MAX(IF(hits.ecommerceaction.action_type = '6', hits.transaction.transactionID, NULL)) AS transactionID) FROM UNNEST(hits) hits, UNNEST(hits.product) prods WHERE hits.ecommerceaction.action_type IN ('2', '6') GROUP BY prods.productsku) result
FROM `test-bigquery.12345678.ga_sessions_*`
WHERE TRUE
  AND _TABLE_SUFFIX = '20170709'
  AND EXISTS(SELECT 1 FROM UNNEST(hits) hits WHERE hits.ecommerceaction.action_type IN ('2', '6'))
LIMIT 1000

此查询产生与您的相同的结果，但它更简洁并且具有更高的性能（它避免了不必要JOIN的 s 和UNNESTs 操作，并充分利用了数据中的 ARRAYs 和 STRUCTs 结构）。

我强烈建议您学习如何将这些技术与嵌套数据一起使用，因为您将能够在几秒钟内查询数百个 gigas。这些是我在数据集中得到的结果：

在此处输入图像描述

它在 15 秒内处理了超过 500Gbs。

于 2017-07-11T16:51:37.010 回答