6

解析器如何用于解析跨越多行的记录?我需要解析树数据(并最终将其转换为树数据结构)。我在下面的代码中遇到了一个难以跟踪的解析错误,但不清楚这是否是 Scala 解析器的最佳方法。问题实际上更多是关于解决问题的方法,而不是调试现有代码。

EBNF-ish 语法是:

SP          = " "
CRLF        = "\r\n"
level       = "0" | "1" | "2" | "3"
varName     = {alphanum}
varValue    = {alphnum}
recordBegin = "0", varName
recordItem  = level, varName, [varValue]
record      = recordBegin, {recordItem}
file        = {record}

尝试实现和测试语法:

import util.parsing.combinator._
val input = """0 fruit
1 id 2
1 name apple
2 type red
3 size large
3 origin Texas, US
2 date 2 aug 2011
0 fruit
1 id 3
1 name apple
2 type green
3 size small
3 origin Florida, US
2 date 3 Aug 2011"""

object TreeParser extends JavaTokenParsers {
  override val skipWhitespace = false
  def CRLF = "\r\n" | "\n"
  def BOF = "\\A".r
  def EOF = "\\Z".r
  def TXT = "[^\r\n]*".r
  def TXTNOSP = "[^ \r\n]*".r
  def SP = "\\s".r
  def level: Parser[Int] = "[0-3]{1}".r ^^ {v => v.toInt}
  def varName: Parser[String] = SP ~> TXTNOSP
  def varValue: Parser[String] = SP ~> TXT
  def recordBegin: Parser[Any] =  "0" ~ SP ~ varName ~ CRLF
  def recordItem: Parser[(Int,String,String)] = level ~ varValue ~ opt(varValue) <~ CRLF ^^
    {case l ~ f ~ v => (l,f,v.map(_+"").getOrElse(""))}
  def record: Parser[List[(Int,String,String)]] = recordBegin ~> rep(recordItem)
  def file: Parser[List[List[(Int,String,String)]]] = rep(record) <~ EOF
  def parse(input: String) = parseAll(file, input)
}

val result = TreeParser.parse(input).get
result.foreach(println)
4

2 回答 2

3

正如丹尼尔所说,您最好让解析器处理空格跳过以最小化您的代码。但是,您可能需要调整该whitespace值,以便可以显式匹配行尾。如果没有定义记录的值,我在下面这样做是为了防止解析器移动到下一行。

如果要匹配字母单词,请尽可能尝试使用JavaTokenParserslike中定义的解析器。ident

为了简化您的错误跟踪,请执行一个NoSuccess匹配,parseAll以便您可以看到解析器在什么时候失败。

import util.parsing.combinator._

val input = """0 fruit
1 id 2
1 name apple
2 type red
3 size large
3 origin Texas, US
2 var_without_value
2 date 2 aug 2011
0 fruit
1 id 3
1 name apple
2 type green
3 size small
3 origin Florida, US
2 date 3 Aug 2011"""

object TreeParser extends JavaTokenParsers {
  override val whiteSpace = """[ \t]+""".r

  val level = """[1-3]{1}""".r

  val value = """[a-zA-Z0-9_, ]*""".r
  val eol = """[\r?\n]+""".r

  def recordBegin = "0" ~ ident <~ eol

  def recordItem = level ~ ident ~ opt(value) <~ opt(eol) ^^ {
    case l ~ n ~ v => (l.toInt, n, v.getOrElse(""))
  }

  def record = recordBegin ~> rep1(recordItem)

  def file = rep1(record)

  def parse(input: String) = parseAll(file, input) match {
    case Success(result, _) => result
    case NoSuccess(msg, _) => throw new RuntimeException("Parsing Failed:" + msg)
  }
}

val result = TreeParser.parse(input)
result.foreach(println)
于 2011-05-31T19:02:14.967 回答
3

显式处理空格并不是一个特别好的主意。而且,当然,使用get意味着您会丢失错误消息。在这个特定的例子中:

[1.3] failure: string matching regex `\s' expected but `f' found

0 fruit

  ^

这实际上很清楚,尽管问题是为什么它需要一个空间。现在,这显然是在处理一个recordBegin规则,它是这样定义的:

"0" ~ SP ~ varName ~ CRLF

因此,它先解析零,然后解析空格,然后fruit必须解析varName. 现在,varName定义如下:

SP ~> TXTNOSP

另一个空间!所以,fruit应该从空格开始。

于 2011-05-31T17:50:41.930 回答