1

我正在使用Treesitter来解析 Clojure 代码。具体来说，我想区分符号、类名和Java Interop。

这是我的语法：

module.exports = grammar({
    name: 'clojure',
    extras: $ => [/[\s,]/],
    rules: {
        program: $ => repeat($._anything),
        _anything: $ => choice($.symbol, $.classname, $.member_access, $.new_class),

        symbol: $ => $._symbol_chars,

        classname: $ => prec.left(3, seq($._symbol_chars, repeat1($._classname_part ))),
        _classname_part: $ => prec.right(3, seq($._dot, $._symbol_chars)),

        member_access: $ => seq($._dot, $._class_chars),
        new_class: $ => prec(2, seq( choice($.symbol, $.classname), $._dot)),

        _dot: $ => /\.{1}/,
        _symbol_chars: $ =>   /[a-zA-Z\*\+\!\-_\?][\w\*\+\!\-\?\':]*/,
        _class_chars: $ => /[a-zA-Z_]\w*/
    }
})

我希望

foo
java.lang.String
.toUpperCase
java.awt.Point.

被解析为

(program (
    (symbol)
    (classname)
    (member_access)
    (new_class (classname)))

但是 Treesitter 一直在看(new_class (classname)) (classname)而不是(classname)for Java.lang.String。我想我需要某种贪婪的匹配，并且 prec.right()在不同的地方尝试过但无济于事。我错过了什么？

4

1 回答 1

2

我是一个保姆新手，所以在处理以下内容时请考虑到这一点:)

extras包含此语法的空格。IIUC，这意味着如果一个人没有适当地使用tokenaround seq，tree-sitter 将尝试考虑在 a 中的项目之间可能出现空格的情况seq。

例如，对于：

seq($._dot, $._class_chars)

tree-sitter 将尝试将其视为有效$._dot并由$._class_chars空格分隔。但是 IIUC 在 Clojure 中不一定等同于它们没有被空格分隔的情况。

看起来它token不能在任何地方使用，所以仅仅把它放在上述各种用途中seq可能行不通。我的猜测是，粗略地说，如果 to 的所有参数seq都是标记，token则可以在seq.

下面是一个似乎可以处理所提供的 4 个测试用例的示例。尽管解析的内容完全不同，但仍然可以做出适当的区分，AFAICT。

const JAVA_ID = /[a-zA-Z_]\w*/;

module.exports = grammar({

    name: 'clojure',

    extras: $ =>
        [/[\s,]/],

    rules: {
        program: $ =>
            repeat($._anything),

        _anything: $ =>
            choice($.symbol,
                   $.member_access,
                   $.new_class),

        symbol: $ =>
            choice($._symbol_chars,
                   $.scoped_identifier),

        // XXX: approximate, see: https://clojure.org/reader
        _symbol_chars: $ =>
            /[a-zA-Z\*\+\!\-_\?][\w\*\+\!\-\?\':]*/,

        // XXX: except $ can be used too for inner classes?
        scoped_identifier: $ =>
            token(seq(JAVA_ID,
                      repeat(seq('.', JAVA_ID)))),

        // e.g. .toUpperCase
        member_access: $ =>
            token(seq('.',
                      JAVA_ID,
                      repeat(seq('.', JAVA_ID)))),

        // e.g. java.lang.String.
        new_class: $ =>
            token(seq(JAVA_ID,
                      repeat(seq('.', JAVA_ID)),
                      '.')),

    }
});

function sep1 (rule, separator) {
    return seq(rule, repeat(seq(separator, rule)));
}

请注意，tree-sitter-cli 的版本可能很重要——我使用的是 0.16.4。当我尝试您的语法时，我没有得到与您相同的输出。

（该scoped_identifier位的灵感来自于 tree-sitter-java 的语法中的同名内容。）

（在旁注中，ATM 似乎有关 tree-sitter 的问题正在 tree-sitter github 存储库中提出。那里有一些问题提到了其他地方进行讨论的可能性，但我没有看到任何事情发生但是。你可能会在那里得到更好的答案。）

于 2020-02-11T10:14:16.013 回答