Treetop ruby​​ 解析器 - 无法解析有序选择

Question

我定义了使用 Treetop 解析字符串和数字的简单语法，如下所示。

grammar Simple
    rule value
        number / string
    end 

    rule string
        word space string
        /
        word
    end

    rule word
        [0-9a-zA-Z]+
    end

    rule number
        [1-9] [0-9]*
    end

    rule space
        ' '+
    end
end

Ruby：

parser = SimpleParser.new
parser.parse('123abc wer') # => nil

我希望解析器返回字符串节点，但看起来解析器无法理解输入。任何想法将不胜感激。

Answer 1

在 Treetop（实际上是一般的 PEG）中，选择运算符是有序的，这与大多数其他解析形式不同。

因此，

rule value
  number / string
end

您告诉 Treetop 您更喜欢数字而不是字符串。

您的输入以 1 开头，它与 number 和 string 匹配两者（通过 word ），但您告诉 Treetop 更喜欢 number 解释，因此它将其解析为 number。当涉及到输入中的a时，它没有更多的规则可以应用，因此它什么也没有返回（nil），因为在Treetop中，不这样做是一个错误消耗整个输入流。

如果您只是反转选择的顺序，整个输入将被解释为 string 而不是 number：

SyntaxNode+String0 offset=0, "123abc wer" (word,space,string):
  SyntaxNode offset=0, "123abc":
    SyntaxNode offset=0, "1"
    SyntaxNode offset=1, "2"
    SyntaxNode offset=2, "3"
    SyntaxNode offset=3, "a"
    SyntaxNode offset=4, "b"
    SyntaxNode offset=5, "c"
  SyntaxNode offset=6, " ":
    SyntaxNode offset=6, " "
  SyntaxNode offset=7, "wer":
    SyntaxNode offset=7, "w"
    SyntaxNode offset=8, "e"
    SyntaxNode offset=9, "r"

或者，您可以保持原样，但允许要多次匹配的 value 规则。插入一个新的顶级规则，如下所示：

rule values
  value+
end

或修改 value 规则，如下所示：

rule value
  (number / string)+
end

这将为您提供大致如下所示的 AST：

SyntaxNode offset=0, "123abc wer":
  SyntaxNode+Number0 offset=0, "123":
    SyntaxNode offset=0, "1"
    SyntaxNode offset=1, "23":
      SyntaxNode offset=1, "2"
      SyntaxNode offset=2, "3"
      SyntaxNode+String0 offset=3, "abc wer" (word,space,string):
        SyntaxNode offset=3, "abc":
          SyntaxNode offset=3, "a"
          SyntaxNode offset=4, "b"
      SyntaxNode offset=5, "c"
    SyntaxNode offset=6, " ":
      SyntaxNode offset=6, " "
    SyntaxNode offset=7, "wer":
      SyntaxNode offset=7, "w"
      SyntaxNode offset=8, "e"
      SyntaxNode offset=9, "r"