r - 在 sparklyr 中禁用 hive 支持

Question

有什么方法可以禁用 sparklyr 中的配置单元支持？

就像在 SparkR 中一样：

sparkR.session(master="local[*]", enableHiveSupport=FALSE)

Answer 1

您可以通过将 SQL 目录实现设置为in-memory.

# get the default config
conf <- spark_config()
# set the catalog implementation, defaults to hive, but we want it in-memory
conf$spark.sql.catalogImplementation <- "in-memory"
sc <- spark_connect(master = "local", config = conf)

Answer 2

如issue #2460所述，该选项是在打破Ron 在版本 1.2.0 上的答案解决方案后在 sparklyr 1.3.0 中引入的。

library(sparklyr)

config <- spark_config()
config$sparklyr.connect.enablehivesupport <- FALSE

sc <- spark_connect(master = "local", config = config)