3

我有一个 gcs 文件夹如下：

gs://<bucket-name>/<folder-name>/dt=2017-12-01/part-0000.tsv
                                /dt=2017-12-02/part-0000.tsv
                                /dt=2017-12-03/part-0000.tsv
                                /dt=2017-12-04/part-0000.tsv
                                ...

我只想匹配Scio下dt=2017-12-02和dt=2017-12-03使用的文件，据我所知，它在下面使用。sc.textFile()TextIO.Read.from()

我试过了

gs://<bucket-name>/<folder-name>/dt={2017-12-02,2017-12-03}/*.tsv

和

gs://<bucket-name>/<folder-name>/dt=2017-12-(02|03)/*.tsv

两者都匹配零文件：

INFO org.apache.beam.sdk.io.FileBasedSource - Filepattern gs://<bucket-name>/<folder-name>/dt={2017-12-02,2017-12-03}/*.tsv matched 0 files with total size 0

INFO org.apache.beam.sdk.io.FileBasedSource - Filepattern gs://<bucket-name>/<folder-name>/dt=2017-12-(02|03)/*.tsv matched 0 files with total size 0

这样做的有效文件模式应该是什么？

4

2 回答 2

1

您需要使用TextIO.readAll()读取文件模式的转换PCollection<String>。通过显式创建文件模式集合，Create.of()或者您可以使用ParDo.

case class ReadPaths(paths: java.lang.Iterable[String]) extends PTransform[PBegin, PCollection[String]] {
  override def expand(input: PBegin) = {
    Create.of(paths).expand(input).apply(TextIO.readAll())
  }
}

val paths = Seq(
  "gs://<bucket-name>/<folder-name>/dt=2017-07-01/part-0000.tsv",
  "gs://<bucket-name>/<folder-name>/dt=2017-12-20/part-0000.tsv",
  "gs://<bucket-name>/<folder-name>/dt=2018-03-29/part-0000.tsv",
  "gs://<bucket-name>/<folder-name>/dt=2018-05-04/part-0000.tsv"
)

import scala.collection.JavaConverters._

sc.customInput("Read Paths", ReadPaths(paths.asJava))
于 2018-02-09T07:10:49.930 回答
1

这可能有效：

gs://bucket/folder/dt=2017-12-0[12]/*.tsv

参考：https ://cloud.google.com/storage/docs/gsutil/addlhelp/WildcardNames

于 2018-02-09T07:20:47.027 回答