Find centralized, trusted content and collaborate around the technologies you use most.
Teams
Q&A for work
Connect and share knowledge within a single location that is structured and easy to search.
我是亚马逊 MapReduce 的新手。谁能告诉我如何轻松地从 Hive 作业向 Amazon 的 SQS(简单队列服务)提交消息?我想将指向我工作的 S3 结果的指针放入 SQS 以便更简单的自动检索。
我认为您不能从 HIVE 本身调用 SQS,但是,您可以创建一个脚本(如 Steve 建议的那样)来调用 SQS 和 Hive。您可以在 Hive 脚本开始之前以及在 Hive 作业结束之后调用 SQS,并使用指向存储(或将存储)结果的位置的指针。
另一种可能的方法:
创建一个新的 DynamoDB 表;设置一个 lambda,它将使用 SQS 流在每个新项目上推送一个 SQS
在 Hive 中,每次要推送 SQS 时将记录插入该表