捕获堆栈溢出

Question

在 C 中捕获堆栈溢出的最佳方法是什么？

更具体地说：

AC 程序包含脚本语言的解释器。

脚本不受信任，并且可能包含无限递归错误。口译员必须能够抓住这些并顺利地继续。 （显然，这可以部分通过使用软件堆栈来处理，但如果可以用 C 语言编写大量库代码，则性能会大大提高；至少，这需要在脚本创建的递归数据结构上运行 C 函数。

）捕获堆栈溢出的形式将涉及 longjmp 返回主循环。 （完全可以丢弃主循环下方堆栈帧中保存的所有数据。）

后备可移植解决方案是使用局部变量的地址来监视当前堆栈深度，并为每个递归函数包含对堆栈的调用使用此方法的检查函数。当然，在正常情况下这会产生一些运行时开销；这也意味着如果我忘记将堆栈检查调用放在一个地方，解释器将有一个潜在的错误。

有更好的方法吗？具体来说，我并不期望有更好的便携式解决方案，但如果我有一个针对 Linux 的系统特定解决方案和另一个针对 Windows 的系统特定解决方案，那就没问题了。

我在 Windows 上看到过一些称为结构化异常处理的参考资料，尽管我看到的参考资料是关于将其转换为 C++ 异常处理机制的；可以从 C 访问它吗？如果可以的话，它对于这种情况有用吗？

我了解 Linux 可以让你捕获分段错误信号；是否可以可靠地将其转换为 longjmp 返回主循环？

Java似乎在所有平台上都支持捕获堆栈溢出异常；它是如何实现的？

Answer 1

在我的脑海中，捕捉堆栈过度增长的一种方法是检查堆栈帧地址的相对差异：

#define MAX_ROOM    (64*1024*1024UL)    // 64 MB

static char *   first_stack = NULL;

void foo(...args...)
{
    char    stack;

    // Compare addresses of stack frames
    if (first_stack == NULL)
        first_stack = &stack;
    if (first_stack > &stack  &&  first_stack - &stack > MAX_ROOM  ||
        &stack > first_stack  &&  &stack - first_stack > MAX_ROOM)
        printf("Stack is larger than %lu\n", (unsigned long)MAX_ROOM);

    ...code that recursively calls foo()...
}

这会将 foo() 的第一个堆栈帧的地址与当前堆栈进行比较帧地址，如果差值超过 MAX_ROOM ，则会写入一条消息。

当然，这假设您所在的架构使用线性始终向下增长或始终向上增长堆栈。

您不必在每个函数中都进行此检查，但通常会在达到您选择的限制之前捕获过大的堆栈增长。

Answer 2

AFAIK，所有检测堆栈溢出的机制都会产生一些运行时成本。你可以让 CPU 检测段错误，但已经太晚了；你可能已经把一些重要的东西写满了。

你说你希望你的解释器尽可能多地调用预编译的库代码。这很好，但是为了维护沙箱的概念，您的解释器引擎应该始终负责例如堆栈转换和内存分配（从解释语言的角度来看）；您的库例程可能应该作为回调来实现。原因是您需要在单个点处理此类事情，原因您已经指出（潜在的错误）。

像 Java 这样的东西通过生成机器代码来处理这个问题，所以它只是生成代码来在每次堆栈转换时检查它的情况。

Answer 3

（我不会根据特定平台来打扰这些方法以获得“更好”的解决方案。它们通过限制语言设计和可用性来制造麻烦，但收效甚微。对于在 Linux 上“正常工作”的答案Windows，见上文。）

首先，从 C 的意义上来说，你不能以可移植的方式做到这一点。事实上，ISO C 根本不强制要求“堆栈”。迂腐地说，甚至当自动对象的分配失败时，行为实际上是未定义的，根据第 4p2 条 - 根本无法保证当调用嵌套太深时会发生什么。您必须依赖一些额外的实现假设（ISA 或 OS ABI）才能做到这一点，因此您最终会得到 C + 别的东西，而不仅仅是 C。机器代码生成在 C 级别也不可移植。

（顺便说一句，ISO C++ 有一个堆栈展开的概念，但仅限于异常处理的上下文中。并且仍然不能保证堆栈溢出上的可移植行为；尽管它似乎未指定，而不是未定义.)

除了限制调用深度之外，所有方法都有一些额外的运行时成本。成本很容易观察到，除非有一些硬件辅助的方法来摊销它（例如页表遍历）。可悲的是，现在情况并非如此。

我发现的唯一可移植的方法是不依赖底层机器架构的本机堆栈。这通常意味着您必须将激活记录帧分配为空闲存储（在堆上）的一部分，而不是 ISA 提供的本机堆栈。这不仅适用于解释语言实现，也适用于编译语言实现，例如 SML/NJ。这种软件堆栈方法并不总是会导致性能较差，因为它们允许在对象语言中提供更高级别的抽象，因此程序可能有更多的机会进行优化，尽管在简单的解释器中不太可能。

您有多种选择来实现这一目标。一种方法是编写虚拟机。您可以分配内存并在其中构建堆栈。

另一种方法是在实现中编写复杂的异步样式代码（例如 trampolines 或 CPS 转换），依赖较少的本机调用框架可能的。通常很难做到正确，但它确实有效。通过这种方式实现的附加功能包括更容易的尾调用优化和更容易的一流连续捕获。