使用返回值优化围绕 get 和函数调用的循环？

Question

这是一个从缓冲源获取数据并将其发送以进行处理的片段。如果队列为空，则 get() 返回 null，并且 process 方法很乐意接受 null 且不执行任何操作。 对此进行编码的最佳方法是什么？

something a; // any legal C++ return type...
aQueueOfSomethings g;

while (true) { 
    a=g.get();
    process(a);
}

无法预测通过 get() 到达的值，它们就是它们本身，需要尽快将它们出队并传递给 process() 。

我在这里没有看到很多浪费的精力 - 如果我跳过名为“a”的显式局部变量并使循环成为一个行：

    process(g.get());

g.get() 的隐式返回值仍将分配空间，可能涉及构造函数调用等等。

如果返回的东西有任何大小或复杂性，最好有一个指向它的指针而不是它的副本，并传递该指针而不是按值复制......所以我' 喜欢

something *a;

    g.get(a);
    process(a);

我更

 something a;

    a=g.get();
    process(a);

用 C++ 编写一个测试用例，尝试两行和一行版本，循环 100,000,000 次。

如果 a 是一个有 4 个整数和 2 个浮点数的对象，并且 process() 方法接触到它们，那么两行解决方案实际上更快！如果 a 对象是单个 int，则单行版本更快。如果对象很复杂，但 process() 方法只触及一个值，则单行版本更快。

对我来说最有趣的是，使用 g++ 编译器、Mac OS X 10.5.8，-O 一级优化开关会在 1 行和 2 行版本中产生相同、更快的操作。

除了让编译器优化、两种方法都用一行、没有显式中间变量、通过引用传递以避免复制之外，还有什么可以让它运行得更快吗？我觉得我错过了一些明显的东西。

Answer 1

我认为这是无用优化的极端情况

（您正在采取一些缓冲并且想要对其进行位优化的东西？）

此外，编译器会将两种方式编译为完全相同的代码，并且（在大多数情况下）完全有权进行返回值优化和尾部调用优化。

结合queue_class::get()的可能内联，你的问题似乎完全没有意义

Answer 2

我相信你正试图在自己的工作中击败编译器。

您遇到过性能问题吗？如果没有，您可能会专注于生成可以维护的可读代码（您似乎已经拥有），而不是诉诸可能过早的优化并通过奇怪的优化使代码变得混乱。

Answer 3

此代码的问题不在于您所做的事情，而在于它必须旋转 - 浪费 CPU 周期，而您的计算机正在执行的某些其他任务可能会使用这些周期 - 即使没有工作可做。

如果有很多程序都采取这种态度（它们是计算机之王，会占用整个 CPU），那么一切都会慢得像爬行一样。让你的代码像这样工作是一个非常重大的决定。

如果可能，请更改整个模型，以便在有更多可用数据时获得某种回调/信号/事件。

Answer 4

你是对的，你应该让编译器优化，但如果你知道这样做是安全的：

while (true) { 
    a=g.get();
    b=g.get();
    c=g.get();
    d=g.get();
    process(a);
    process(b);
    process(c);
    process(d);
}

那么它可能会让事情变得更快。

或者，更极端的是，准备好返回类型（或指向它的指针）的整个数组，然后循环处理它们。如果 process() 和 get() 都使用大量代码，那么这样做可能意味着所有代码都可以保留在立即缓存中，而不是每次调用函数时从进一步的缓存中获取。

编译器无法进行此优化，因为它可能不知道重新排序函数调用是安全的。