有什么方法可以从 Cloud Function(最好是基于 python)运行 Google Data Fusion 管道?
核心要求是,每当有新文件到达 GCS 存储桶时,就会执行基于事件的云函数。Cloud Function 又需要调用数据融合管道,将 GCS 存储桶文件加载到 BigQuery 中。
要执行 Cloud Function,我们可以使用以下命令:
gcloud 函数部署 hello_gcs_generic --runtime python37 --trigger-resource YOUR_TRIGGER_BUCKET_NAME --trigger-event google.storage.object.finalize