0

当我将程序导出到 jar 文件并执行它时，我得到一个 java.lang.NoClassDefFoundError: better/files/File 错误。

我正在使用的代码如下。

提前感谢您的任何帮助

SBT

name := "testFunctions"

version := "1.0"

scalaVersion := "2.11.8"

libraryDependencies += "com.github.pathikrit" %% "better-files" % "2.17.1"
libraryDependencies ++= Seq(
  "org.apache.spark" % "spark-core_2.11" % "2.1.0",
  "org.apache.spark" % "spark-sql_2.11" % "2.1.0",
  "com.github.pathikrit" %% "better-files" % "2.17.1"
)

initialize := {
  val _ = initialize.value
  if (sys.props("java.specification.version") != "1.8")
    sys.error("Java 8 is required for this project.")
}

斯卡拉代码

/**
  * Created by cloudera on 7/23/17.
  */

import better.files.File._
import org.apache.spark.sql.SparkSession


object funcJM {


  val forDelete = (root/"/home/cloudera/Documents/fabo")
    .createIfNotExists()

  if (forDelete.exists)
    forDelete.delete()


  def main(args:Array[String]) : Unit = {

    val spark = SparkSession.builder
      .master("local")
      .appName("Get ForEx Data")
      .getOrCreate()



  }

}

命令行执行jar文件

spark-submit --class funcJM --master local[*] /home/cloudera/testFunctions/target/scala-2.11/testfunctions_2.11-1.0.jar --driver-class-path /home/cloudera/testFunctions/target/scala-2.11/testfunctions_2.11-1.0.jar

错误

java.lang.Class.privateGetDeclaredMethods(Class.java:2701) 处 java.lang.Class.getDeclaredMethods0(Native Method) 处的线程“main”中的异常 java.lang.NoClassDefFoundError: Better/files/File .privateGetMethodRecursive(Class.java:3048) at java.lang.Class.getMethod0(Class.java:3018) at java.lang.Class.getMethod(Class.java:1784) at org.apache.spark.deploy.SparkSubmit$ .org$apache$spark$deploy$SparkSubmit$$runMain(SparkSubmit.scala:722) 在 org.apache.spark.deploy.SparkSubmit$.doRunMain$1(SparkSubmit.scala:187) 在 org.apache.spark.deploy。 SparkSubmit$.submit(SparkSubmit.scala:212) at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:126) at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala) ：java.lang.ClassNotFoundException：更好的文件。在 java.lang.ClassLoader.loadClass(ClassLoader.java:424) 在 java.lang.ClassLoader.loadClass(ClassLoader.java:357) 的 java.net.URLClassLoader.findClass(URLClassLoader.java:381) 的文件 ... 10更多的

代码所在的树结构如下所示- 因此名为 func 的类位于 scala 目录中

\main
    \java
    \resources
    \scala
        -funcJM(class)
    \scala-2.11
4

1 回答 1

2

您可以做三件事：

  1. 使用sbt assembly 之类的东西来编译一个 fat jar。包含better.files.File 的jar 会打包在testfunctions_2.11-1.0.jar 中。

  2. 将包含更好包的jar文件复制到spark jars目录：../spark-2.1.0-bin-hadoop2.7/jars

  3. 指定包含更好包的 jar 文件作为 spark-submit 调用中的参数，使用 --driver-class-path better-files-akka_2.10.jar

于 2017-07-27T05:34:38.487 回答