我们正在使用气流来安排我们的数据管道,作为其中的一部分,我们还在气流管理中添加了一些连接和变量。
在 DEV 中一切正常,现在我们要设置 PROD 环境。我们如何将这些值迁移到 PROD 环境中。
我们正在使用气流来安排我们的数据管道,作为其中的一部分,我们还在气流管理中添加了一些连接和变量。
在 DEV 中一切正常,现在我们要设置 PROD 环境。我们如何将这些值迁移到 PROD 环境中。
变量,我通常在我们的代码仓库中有 JSON 文件来存储不同环境的非敏感变量,然后可以通过命令行轻松导入,并通过 git 跟踪更改。
对于连接,另一个可能的选项是使用环境变量而不是在 UI 中设置,您可以使用AIRFLOW_CONN_{CONNECTION_NAME}
例如AIRFLOW_CONN_AWS_DEFAULT
连接来设置连接属性aws_default
存储在变量中的值必须是 URI 格式,即postgres://user:password@localhost:5432/master
或s3://accesskey:secretkey@S3