apache-spark - 添加 spark-redis 连接器作为依赖项的问题

Question

我正在尝试使用 RedisLabs 提供的 spark-redis 连接器。我可以在本地环境中尝试，下载必要的 jars 文件。

但是当我尝试在 EMR 中执行它时，我需要将它添加到我的 built.sbt 文件中，如下所示：

libraryDependencies += "redis.clients" % "jedis" % "2.9.0"
libraryDependencies += "org.apache.commons" % "commons-pool2" % "2.5.0"
libraryDependencies += "RedisLabs" % "spark-redis" % "0.3.2"

但是我收到一个错误，说无法解决这种依赖关系。它找不到 spark-redis 库。

还有其他方法吗？有什么建议吗？

Answer 1

我能够编译将 spark-streaming 添加到依赖项中，并包括来自外部 URL 的 spark 流的依赖项：

libraryDependencies += "org.apache.spark" %% "spark-streaming" % "2.3.0" % "provided"

libraryDependencies += "redis.clients" % "jedis" % "2.9.0"
libraryDependencies += "org.apache.commons" % "commons-pool2" % "2.5.0"

libraryDependencies += "RedisLabs" % "spark-redis" % "0.3.2" from "https://dl.bintray.com/spark-packages/maven/RedisLabs/spark-redis/0.3.2/spark-redis-0.3.2.jar"