访问 Cloud Storage 时,我的 DAG 中的一项任务有时会挂起。似乎代码在download
此处的函数处停止:
hook = GoogleCloudStorageHook(google_cloud_storage_conn_id='google_cloud_default')
for input_file in hook.list(bucket, prefix=folder):
hook.download(bucket=bucket, object=input_file)
在我的测试中,该文件夹包含一个 20Mb 的 json 文件。
该任务通常需要 20-30 秒,但在某些情况下它会运行 5 分钟,然后其状态会更新SCHEDULED
并停留在那里(等待超过 6 小时)。我怀疑 5 分钟是由于配置原因,scheduler_zombie_task_threshold 300
但不确定。
如果我在 Web UI 上手动清除任务,该任务会快速排队并再次正确运行。我通过设置execution_timeout
正确更新任务FAILED
或UP_FOR_RETRY
状态超过 10 分钟来解决这个问题;但我想解决根本问题以避免依赖固定的超时阈值,有什么建议吗?