我首先使用以下方式读取下限和上限:
select max(timestamp) ,min(timestamp) from table name
分别提取
Row row=query.collectasList().get(0).getString(0) as lowerbound and upperbound
然后通过下限和上限
spark.read("jdbc")
.option("url", url)
.option("dbtable", "sample")
.option("user", user)
.option("driver","com.sqlserver")
.option("password", password)
.option("numPartitions", 100)
.option("partitionColumn", "timestamp")
.option("lowerBound", lowerbound)
.option("upperBound", upperbound )
lowerbound and upperbound format "2022-02-09 17:13:22.353"
我知道下限和上限必须是字符串,但是当通过时我面临以下问题,你能帮忙吗?面对这个问题在阶段 1.0 中丢失了任务 6.0(TID 7, , executor 1):
com.microsoft.sqlserver.jdbc.SQLServerException:从字符串转换日期和/或时间时转换失败。在 com.microsoft.sqlserver.jdbc.SQLServerException.makeFromDatabaseError(SQLServerException.java