使用 Apache Spark 连接到 Presto 时不支持类型 JAVA_OBJECT
我正在尝试将 presto sql 查询写入数据框,但出现错误
py4j.protocol.Py4JJavaError: An error occurred while calling o87.load.
: java.sql.SQLException: Unsupported type JAVA_OBJECT
这适用于简单查询,但在查询中使用 map_from_entries 时会产生问题,如下所示:
query="select A, B, map_from_entries(ARRAY[('C', C),('D', D),('E', E)) as data from db.table_name"
我正在使用的代码如下:
readDF = spark.read \
.format("jdbc") \
.option("url", url) \
.option("driver", PRESTO_DRIVER_NAME) \
.option("user", self.presto_username) \
.option("query", self.query)
.load()
我该如何解决这个问题,有没有办法将此查询保存到数据框?