我的 Amazon S3 路径如下:
s3://dev-mx-allocation-storage/ph_test_late_waiver/{year}/{month}/{day}/{flow_number}*.csv
我需要创建一个从 S3 到 Snowflake 的管道,其中每个月的每一天都会有一个新的 csv 文件落入存储桶中,并且该 csv 文件应该插入到雪花表中。
我对此很陌生,我可以在雪花中获得一个可以做到这一点的命令吗?
我的 Amazon S3 路径如下:
s3://dev-mx-allocation-storage/ph_test_late_waiver/{year}/{month}/{day}/{flow_number}*.csv
我需要创建一个从 S3 到 Snowflake 的管道,其中每个月的每一天都会有一个新的 csv 文件落入存储桶中,并且该 csv 文件应该插入到雪花表中。
我对此很陌生,我可以在雪花中获得一个可以做到这一点的命令吗?
Snowpipe 非常适合数据的实时需求,因为它基于触发器加载数据,并且可以管理大量连续加载。数据量和加载数据的计算/存储资源由雪花云管理,这就是它被提升为无服务器功能的原因。如果少了一件需要管理的事情,那就更好地将精力集中在我们自己的应用程序开发上!
分步指南:https ://medium.com/@walton.cho/auto-ingest-snowpipe-on-s3-85a798725a69