databricks - 如何使用 Databricks dbutils 从文件夹中删除所有文件

Question

有人可以让我知道如何使用 databricks dbutils 从文件夹中删除所有文件。我尝试了以下方法，但不幸的是，Databricks 不支持通配符。

dbutils.fs.rm('adl://azurelake.azuredatalakestore.net/landing/stageone/*')

谢谢

Answer 1

根据文档， rm 函数接收 2 个参数：

rm( dir : String, recurse : boolean = false): boolean -> 删除文件或目录

其中第二个参数是设置递归性的布尔标志，因此您只需将其设置为 true：

dbutils.fs.rm('adl://azurelake.azuredatalakestore.net/landing/stageone/',True)

Answer 2

像这样的东西应该工作：

val PATH = "adl://azurelake.azuredatalakestore.net/landing/stageone/"
dbutils.fs.ls(PATH)
            .map(_.name)
            .foreach((file: String) => dbutils.fs.rm(PATH + file, true))