C/C++ 的 JIT 优化器

Question

我正在阅读有关 JIT 相对于预编译的优势的内容，其中提到的其中之一是 JIT 可以根据实际运行时数据调整分支预测。现在，距离我在大学编写编译器已经很长时间了，但在我看来，在大多数情况下（没有显式的 goto 的情况），预编译代码也可以实现类似的效果。

考虑以下代码：

   test x
   jne L2:
L1: ...
   jmp L3:
L2: ...
L3:

如果我们有一些运行时工具可以查看“jne L2”为真的次数，它可以物理交换 L1: 块和 L2: 块中的所有指令。当然，它必须知道在交换期间两个块内都没有线程，但这些都是细节......

   test x
   jeq L1:
L2: ...
   jmp L3:
L1: ...
L3:

我知道当程序代码加载到只读内存等中时也会出现问题，但这是一个想法。

所以我的问题是，这样的 JIT 优化对于 C/C++ 是否可行，或者我是否遗漏了一些无法做到这一点的根本原因？有没有针对 C/C++ 的 JIT 优化器？

Answer 1

据我所知，没有适用于 C++ 的 JIT 编译器；不过，GCC 确实支持反馈定向优化（FDO），它可以使用运行时分析来优化分支预测等。

请参阅以“-fprofile”开头的 GCC 选项（提示：“- fprofile-use”使用生成的运行时配置文件来执行优化，而“-fprofile-generate”用于生成运行时配置文件）。

Answer 2

大多数现代 CPU 支持分支预测。它们有一个小缓存，理论上可以让 CPU 享受在运行时重新排序的好处。此缓存的大小相当有限，但可能意味着您无法获得想象中的那么多好处。有些 CPU 甚至可以开始执行两个分支并丢弃在未执行的分支上完成的工作。

---

编辑：使用 JIT 编译器的最大优势来自于这样的代码。

if (debug) {
   // do something
}

JIT 非常擅长检测和优化不执行任何操作的代码。 （如果你有一个微基准测试表明 Java 比 C 快得多，那么 JIT 很可能检测到你的测试没有做任何 C 编译器没有做的事情）

你可能会问，为什么 C 没有一些东西像这样？因为它有一些“更好”的东西，

#if DEBUG
    // do something
#endif

如果 DEBUG 很少更改并且您只有很少的这些标志，因此您可以编译每个有用的组合，那么这是最佳的。

这种方法的问题是可扩展性。您添加的每个标志都可以使要生成的预编译二进制文件的数量增加一倍。

如果您有很多这样的标志，并且编译每个组合是不切实际的，那么您需要依靠分支预测来动态优化您的代码。

Answer 3

您指的是跟踪或重新优化 JIT，而不仅仅是任何旧的 JIT，类似的东西还没有为 C 或 C++ 制作（至少没有公开）。然而，您可能想检查 LLVM 是否没有使用 Clang 或 GCC 前端的分支（考虑到它既是编译器又是 JIT），因为我似乎看到一些主题表明它可能会被实现。

Answer 4

HP Dynamo 二进制重新编译器证明，C++ 编译器生成的优化代码可以实现高达 20% 的加速。 Dynamo 并不完全是 JIT 编译器，因为它以任意机器代码而不是某些更高级别的表示形式（例如 JVM 字节码或 .NET CIL）启动，但原则上，C++ 的 JIT 只能比 Dynamo 更高效。请参阅：http://citeseerx.ist.psu .edu/viewdoc/summary?doi=10.1.1.12.7138&rank=1

Dynamo 是为 HP 创建的PA-RISC 架构从未作为商业产品提供，因此它在当前 x86 变体主导的世界中没有多大用处。我想知道 VMware、Connectix 或 Parallels 是否曾经尝试过向其重新编译器添加优化过程，或者他们是否已经放弃了二进制转换，转而支持最新 x86 CPU 中的虚拟化功能。