2

我正在尝试通过火花包使用 H2O.ai 的苏打水。我正在遵循他们的指南：https ://github.com/h2oai/sparkling-water#use-sparkling-water-via-spark-packages我正在使用带有 Scala 2.10 和 Spark 1.6.1 的 Hortonworks HDP 2.4。我在终端中输入了以下内容：

spark-shell --packages ai.h2o:sparkling-water-core_2.10:1.6.8,ai.h2o:sparkling-water-examples_2.10:1.6.8

但是，它抱怨没有找到两个工件。以下是详细信息：

:: problems summary ::
:::: WARNINGS
        [NOT FOUND  ] com.google.guava#guava;16.0.1!guava.jar(bundle) (1ms)
==== local-m2-cache: tried

  file:/root/.m2/repository/com/google/guava/guava/16.0.1/guava-16.0.1.jar

    [NOT FOUND  ] com.google.code.findbugs#jsr305;3.0.0!jsr305.jar (1ms)

==== local-m2-cache: tried

  file:/root/.m2/repository/com/google/code/findbugs/jsr305/3.0.0/jsr305-3.0.0.jar

    ::::::::::::::::::::::::::::::::::::::::::::::

    ::              FAILED DOWNLOADS            ::

    :: ^ see resolution messages for details  ^ ::

    ::::::::::::::::::::::::::::::::::::::::::::::

    :: com.google.guava#guava;16.0.1!guava.jar(bundle)

    :: com.google.code.findbugs#jsr305;3.0.0!jsr305.jar

    ::::::::::::::::::::::::::::::::::::::::::::::



:: USE VERBOSE OR DEBUG MESSAGE LEVEL FOR MORE DETAILS
Exception in thread "main" java.lang.RuntimeException: [download failed: com.google.guava#guava;16.0.1!guava.jar(bundle), download failed: com.google.code.findbugs#jsr305;3.0.0!jsr305.jar]
    at org.apache.spark.deploy.SparkSubmitUtils$.resolveMavenCoordinates(SparkSubmit.scala:1068)
    at org.apache.spark.deploy.SparkSubmit$.prepareSubmitEnvironment(SparkSubmit.scala:287)
    at org.apache.spark.deploy.SparkSubmit$.submit(SparkSubmit.scala:154)
    at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:121)
    at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala)

任何人都有任何经验我可以解决它吗？非常感谢。

4

3 回答 3

1

删除~/.m2并~/ivy2修复了使用问题ai.h2o:sparkling-water-core_2.10:1.6.8

于 2017-03-01T16:55:13.873 回答
0

看起来像是降低 jar 文件的版本

spark-shell --packages ai.h2o:sparkling-water-core_2.10:1.6.1,ai.h2o:sparkling-water-examples_2.10:1.6.1

或使用苏打水手册第 5.1.1 节中建议的 fatjar

spark-shell --jars [your path]/sparkling-water-1.6.8/assembly/build/libs/sparkling-water-assembly-1.6.8-all.jar

解决了这个问题。sparkling-water-1.6.8从H2O哪里下载

于 2017-02-27T21:15:15.740 回答
0

如果您查找错误“下载失败：com.google.guava#guava;16.0.1!guava.jar”，您会发现这主要是环境特定问题，在应用程序启动期间无法下载包。

您的解决方案可能是分别下载/安装两个失败的下载包，如下所示：

$ mvn install com.google.guava:guava:21.0:get -DrepoUrl=https://mvnrepository.com
于 2017-02-22T01:49:34.860 回答