分析正则表达式词法分析器

Question

我用 PHP 创建了一个路由器，它接受 DSL（基于 Rails 3 路由）并将其转换为正则表达式。它有可选的段（由（嵌套）括号表示）。以下是当前的词法分析算法：

private function tokenize($pattern)
{
    $rules = array(
        self::OPEN_PAREN_TYPE  => '/^(\()/',
        self::CLOSE_PAREN_TYPE => '/^(\))/',
        self::VARIABLE_TYPE    => '/^:([a-z0-9_]+)/',
        self::TEXT_TYPE        => '/^([^:()]+)/',
    );

    $cursor = 0;
    $tokens = array();
    $buffer = $pattern;
    $buflen = strlen($buffer);

    while ($cursor < $buflen)
    {
        $chunk = substr($buffer, $cursor);

        $matched = false;
        foreach ($rules as $type => $rule)
        {
            if (preg_match($rule, $chunk, $matches))
            {
                $tokens[] = array(
                    'type'  => $type,
                    'value' => $matches[1],
                );

                $matched = true;
                $cursor += strlen($matches[0]);
            }
        }

        if (!$matched)
        {
            throw new \Exception(sprintf('Problem parsing route "%s" at char "%d".', $pattern, $cursor));
        }
    }

    return $tokens;
}

是否有我遗漏的明显加速？有什么方法可以完全放弃 preg_* ，或者将正则表达式组合成一种模式等？

这是 xhprof 调用图（基准测试使用约 2500 条独特的路由进行测试）：

我知道最好的解决方案是不要为每个请求调用此方法（我计划使用 APC 进行缓存等），但希望使使用此库但未启用 APC 的人尽可能高效。

编辑：

我还编写了一个快速状态机版本，它似乎性能更好。我仍然愿意接受任何方面的建议，因为我相信第一个代码更优雅。

private function tokenize2($pattern)
{
    $buffer = '';
    $invariable = false;

    $tokens = array();
    foreach (str_split($pattern) as $char)
    {
        switch ($char)
        {
            case '(':
                if ($buffer)
                {
                    $tokens[] = array(
                        'type'  => $invariable ? self::VARIABLE_TYPE : self::TEXT_TYPE,
                        'value' => $buffer,
                    );
                    $buffer = '';
                    $invariable = false;
                }

                $tokens[] = array(
                    'type' => self::OPEN_PAREN_TYPE,
                );
                break;
            case ')':
                if ($buffer)
                {
                    $tokens[] = array(
                        'type'  => $invariable ? self::VARIABLE_TYPE : self::TEXT_TYPE,
                        'value' => $buffer,
                    );
                    $buffer = '';
                    $invariable = false;
                }

                $tokens[] = array(
                    'type' => self::CLOSE_PAREN_TYPE,
                );
                break;
            case ':':
                if ($buffer)
                {
                    $tokens[] = array(
                        'type'  => $invariable ? self::VARIABLE_TYPE : self::TEXT_TYPE,
                        'value' => $buffer,
                    );
                    $buffer = '';
                    $invariable = false;
                }

                $invariable = true;
                break;
            default:
                if ($invariable && !(ctype_alnum($char) || '_' == $char ))
                {
                    $invariable = false;
                    $tokens[] = array(
                        'type'  => self::VARIABLE_TYPE,
                        'value' => $buffer,
                    );

                    $buffer = '';
                    $invariable = false;
                }

                $buffer .= $char;
                break;
        }
    }

    if ($buffer)
    {
        $tokens[] = array(
        'type'  => $invariable ? self::VARIABLE_TYPE : self::TEXT_TYPE,
        'value' => $buffer,
        );
        $buffer = '';
    }

    return $tokens;

---

出于性能原因，我最终只使用状态机，并使用 APC 缓存整个词法分析过程（因为......为什么不呢）。

如果有人有任何贡献，我会很乐意移动答案。

Answer 1

有趣的代码:)。

我不太确定你所说的“用 APC 缓存整个词法分析过程”是什么，所以我可能会建议你已经在做什么。

您可以只缓存输入 URL 以及实际词法分析过程之上的结果吗？您不希望在此处应用任何基于权限的限制，因此缓存是全局的。即使是在只有少数热点的大型站点上，路线的数量往往也是有限的。完全绕过词法分析并命中任何先前使用的路由上的缓存。