scala StdLexical 中的词法换行符？

Question

我正在尝试 lex（然后解析）类似 C 的语言。在 C 中，有一些预处理器指令，其中换行符很重要，然后是实际代码，其中换行符只是空格。

实现此目的的一种方法是像早期的 C 编译器一样进行两遍处理 - 对 # 指令有一个单独的预处理器，然后对其输出进行 lex 处理。

但是，我想知道是否可以在单个词法分析器中完成此操作。我对编写 scala 解析器组合器代码非常满意，但我不太确定 StdLexical 如何处理空格。

有人可以编写一些简单的示例代码来表示可以 lex a #include 行（使用换行符）和一些简单的代码（忽略换行符）吗？或者这是不可能的，最好采用 2 遍方法？

Answer 1

好吧，我自己解决了这个问题，在这里为后代回答。

在 StdLexical 中，您已经能够在词法分析器中指定空格。您所要做的就是适当地重写您的令牌方法。这是一些示例代码（删除了不相关的位）

override def token: CeeLexer.Parser[Token] = controlLine 
  // | ... (where ... is whatever you want to keep of the original method)
def controlLine = hashInclude

def hashInclude : CeeLexer.Parser[HashInclude] =
  ('#' ~ word("include") ~ rep(nonEolws)~'\"' ~ rep(chrExcept('\"', '\n', EofCh)) ~ '\"' ~ '\n' |
   '#' ~ word("include") ~ rep(nonEolws)~'<' ~ rep(chrExcept('>', '\n', EofCh)) ~ '>' ~ '\n' ) ^^ {
   case hash~include~whs~openQ~fname~closeQ~eol =>  // code to handle #include
 }