16

我正在尝试解析一个简单的 key = value 查询语言。我实际上已经用一个巨大的怪物解析器完成了它，然后我再通过它来清理解析树。我想做的是从下到上进行干净的解析，其中包括使用 (key,val) 对的集合以便消除冗余对等。虽然我之前让它工作过，但我不觉得就像我完全理解为什么 pyparsing 会以这种方式运行一样，所以我做了很多工作等，有点与谷物作斗争。

目前，这是我的“简化”解析器的开始：

from pyparsing import *   

bool_act = lambda t: bool(t[0])
int_act  = lambda t: int(t[0])

def keyval_act(instring, loc, tokens):
    return set([(tokens.k, tokens.v)])

def keyin_act(instring, loc, tokens):
    return set([(tokens.k, set(tokens.vs))])

string = (
      Word(alphas + '_', alphanums + '_')
    | quotedString.setParseAction( removeQuotes )
    )
boolean = (
      CaselessLiteral('true')
    | CaselessLiteral('false')
    )
integer = Word(nums).setParseAction( int_act )
value = (
      boolean.setParseAction(bool_act)
    | integer
    | string
    )
keyval = (string('k') + Suppress('=') + value('v')
          ).setParseAction(keyval_act)
keyin = (
    string('k') + Suppress(CaselessLiteral('in')) +
    nestedExpr('{','}', content = delimitedList(value)('vs'))
    ).setParseAction(keyin_act)

grammar = keyin + stringEnd | keyval + stringEnd

目前，“语法”非终结符只是一个存根，我最终会在键中添加可嵌套的连词和析取词，以便可以解析这样的搜索：

a = 1, b = 2 , c in {1,2,3} | d = 4, ( e = 5 | e = 2, (f = 3, f = 4))

不过，就目前而言，我无法理解 pyparsing 如何调用我的 setParseAction 函数。我知道在传递多少个参数方面有一些魔力，但是我收到一个错误，根本没有参数传递给函数。所以目前，如果我这样做：

grammar.parseString('hi in {1,2,3}')

我收到此错误：

Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/usr/lib/python2.6/site-packages/pyparsing.py", line 1021, in parseString
    loc, tokens = self._parse( instring, 0 )
  File "/usr/lib/python2.6/site-packages/pyparsing.py", line 894, in _parseNoCache
    loc,tokens = self.parseImpl( instring, preloc, doActions )
  File "/usr/lib/python2.6/site-packages/pyparsing.py", line 2478, in parseImpl
    ret = e._parse( instring, loc, doActions )
  File "/usr/lib/python2.6/site-packages/pyparsing.py", line 894, in _parseNoCache
    loc,tokens = self.parseImpl( instring, preloc, doActions )
  File "/usr/lib/python2.6/site-packages/pyparsing.py", line 2351, in parseImpl
    loc, resultlist = self.exprs[0]._parse( instring, loc, doActions, callPreParse=False )
  File "/usr/lib/python2.6/site-packages/pyparsing.py", line 921, in _parseNoCache
    tokens = fn( instring, tokensStart, retTokens )
  File "/usr/lib/python2.6/site-packages/pyparsing.py", line 675, in wrapper
    return func(*args[limit[0]:])
TypeError: keyin_act() takes exactly 3 arguments (0 given)

从回溯中可以看出，我使用的是 python2.6，而 pyparsing 是 1.5.6

谁能给我一些关于为什么函数没有得到正确数量的参数的见解？

4

2 回答 2

21

好吧，最新版本setParseAction确实做了一些额外的魔法，但不幸的是以牺牲一些开发简单性为代价。setParseAction 中的参数检测逻辑现在依赖于在解析操作中引发异常，直到使用正确数量的参数调用它，从 3 开始并逐渐下降到 0，之后它只是放弃并引发异常锯。

除了在这种情况下，来自解析操作的异常不是由于参数列表不匹配，而是代码中的真正错误。为了更好地了解这一点，请在您的解析操作中插入一个通用的 try-except ：

def keyin_act(instring, loc, tokens): 
    try:
        return set([(tokens.k, set(tokens.vs[0]))]) 
    except Exception as e:
        print e

你得到：

unhashable type: 'set'

实际上，您从中创建返回集的列表的第二个元素本身就是一个集合，一个可变容器，因此不能散列以包含在集合中。如果您将其更改为使用frozenset，那么您将获得：

[set([('hi', frozenset([]))])]

为什么冻结集是空的？我建议您将结果名称“vs”的位置更改为：

nestedExpr('{','}', content = delimitedList(value))('vs')

现在解析'hi in {1,2,3}'返回的解析结果是：

[set([('hi', frozenset([([1, 2, 3], {})]))])]

这有点乱，如果我们将这一行放在 parse 操作的顶部，您将看到不同的命名结果实际包含什么：

print tokens.dump()

我们得到：

['hi', [1, 2, 3]]
- k: hi
- vs: [[1, 2, 3]]

所以'vs'实际上指向一个包含一个列表的列表。所以我们可能想从 构建我们的集合tokens.vs[0]，而不是tokens.vs。现在我们的解析结果如下所示：

[set([('hi', frozenset([1, 2, 3]))])]

关于语法的其他一些提示：

  • 尝试使用 CaselessKeyword，而不是 CaselessLiteral。关键字是语法关键字的更好选择，因为它们本质上可以避免将“inside”的前导“in”误认为是语法中的关键字“in”。

  • 不确定从解析操作返回集合的方向 - 对于键值对，元组可能会更好，因为它会保留标记的顺序。在程序的解析后阶段建立您的键和值集。

  • 对于其他语法调试工具，请查看setDebug和traceParseAction装饰器。

于 2012-04-17T03:55:11.850 回答
5

Paul 已经解释了根本问题是什么：TypeError您的 parse 操作引发的问题混淆了 pyparsing 的自动计算您的 parse 操作期望的参数数量的方法。

这是我用来避免这种混淆的方法：TypeError如果使用更少的参数再次调用该函数，则该装饰器会重新引发被装饰函数抛出的任何内容：

import functools
import inspect
import sys

def parse_action(f):
    """
    Decorator for pyparsing parse actions to ease debugging.

    pyparsing uses trial & error to deduce the number of arguments a parse
    action accepts. Unfortunately any ``TypeError`` raised by a parse action
    confuses that mechanism.

    This decorator replaces the trial & error mechanism with one based on
    reflection. If the decorated function itself raises a ``TypeError`` then
    that exception is re-raised if the wrapper is called with less arguments
    than required. This makes sure that the actual ``TypeError`` bubbles up
    from the call to the parse action (instead of the one caused by pyparsing's
    trial & error).
    """
    num_args = len(inspect.getargspec(f).args)
    if num_args > 3:
        raise ValueError('Input function must take at most 3 parameters.')

    @functools.wraps(f)
    def action(*args):
        if len(args) < num_args:
            if action.exc_info:
                raise action.exc_info[0], action.exc_info[1], action.exc_info[2]
        action.exc_info = None
        try:
            return f(*args[:-(num_args + 1):-1])
        except TypeError as e:
            action.exc_info = sys.exc_info()
            raise

    action.exc_info = None
    return action

以下是如何使用它：

from pyparsing import Literal

@parse_action
def my_parse_action(tokens):
    raise TypeError('Ooops')

x = Literal('x').setParseAction(my_parse_action)
x.parseString('x')

这给了你：

Traceback (most recent call last):
  File "test.py", line 49, in <module>
    x.parseString('x')
  File "/usr/local/lib/python2.7/dist-packages/pyparsing-2.0.2-py2.7.egg/pyparsing.py", line 1101, in parseString
    loc, tokens = self._parse( instring, 0 )
  File "/usr/local/lib/python2.7/dist-packages/pyparsing-2.0.2-py2.7.egg/pyparsing.py", line 1001, in _parseNoCache
    tokens = fn( instring, tokensStart, retTokens )
  File "/usr/local/lib/python2.7/dist-packages/pyparsing-2.0.2-py2.7.egg/pyparsing.py", line 765, in wrapper
    ret = func(*args[limit[0]:])
  File "test.py", line 33, in action
    return f(*args[:num_args])
  File "test.py", line 46, in my_parse_action
    raise TypeError('Ooops')
TypeError: Ooops

将此与您在没有@parse_action装饰的情况下获得的回溯进行比较：

Traceback (most recent call last):
  File "test.py", line 49, in <module>
    x.parseString('x')
  File "/usr/local/lib/python2.7/dist-packages/pyparsing-2.0.2-py2.7.egg/pyparsing.py", line 1101, in parseString
    loc, tokens = self._parse( instring, 0 )
  File "/usr/local/lib/python2.7/dist-packages/pyparsing-2.0.2-py2.7.egg/pyparsing.py", line 1001, in _parseNoCache
    tokens = fn( instring, tokensStart, retTokens )
  File "/usr/local/lib/python2.7/dist-packages/pyparsing-2.0.2-py2.7.egg/pyparsing.py", line 765, in wrapper
    ret = func(*args[limit[0]:])
TypeError: my_parse_action() takes exactly 1 argument (0 given)
于 2014-07-14T18:27:55.340 回答