我没有看到可以将 excel 数据直接带到数据湖。在加载到 Data Lake 之前,您可能需要转换为 CSV/TSV/Json 或其他格式。
Redshift Spectrum 支持的格式:
http://docs.aws.amazon.com/redshift/latest/dg/c-spectrum-data-files.html - 我现在还没有看到 Excel。
雅典娜支持的文件格式:
http://docs.aws.amazon.com/athena/latest/ug/supported-formats.html - 我看不到这里也不支持 Excel。
您需要将文件上传到 S3 以使用 Athena 或 Redshift Spectrum 甚至 Redshift 存储本身。
将文件上传到 S3:
如果您有更大的文件,则需要使用 S3 分段上传来更快地上传。如果您想要更快的速度,您需要使用 S3 加速器来上传您的文件。
使用 Athena 查询大数据:
您可以使用 Athena 从 S3 位置创建外部表。创建外部表后,使用 Athena Sql 引用来查询您的数据。
http://docs.aws.amazon.com/athena/latest/ug/language-reference.html
使用 Redshift Spectrum 查询大数据:
与 Athena 类似,您可以使用 Redshift 创建外部表。开始查询这些表并在 Redshift 上获取结果。
Redshift 有很多商业工具,我用的是 SQL Workbench。它是免费的开源且坚如磐石,由 AWS 提供支持。
SQL 工作台:http ://www.sql-workbench.net/
将您的 WorkBench 连接到 Redshift:http ://docs.aws.amazon.com/redshift/latest/mgmt/connecting-using-workbench.html
将数据复制到 Redshift:
此外,如果您想将数据存储到 Redshift,您可以使用复制命令从 S3 中提取数据并将其加载到 Redshift。
复制命令示例:
http://docs.aws.amazon.com/redshift/latest/dg/r_COPY_command_examples.html
Redshift 集群大小和节点数:
在创建 Redshift 集群之前,请检查所需的大小和所需的节点数。更多数量的节点使查询并行运行。另一个重要因素是您的数据分布情况。(分布键和排序键)
我对 Redshift 有很好的体验,可能需要一些时间才能加快速度。
希望能帮助到你。