如何使用 pthread 和条件变量改进多线程应用程序中的实时行为？

Question

我有一个使用 pthread 的多线程应用程序。我有一个互斥锁（）和条件变量（）。有两个线程，一个线程正在为第二个线程（即工作线程）生成数据，该线程试图以实时方式处理生成的数据，以便尽可能接近固定时间段的流逝来处理一个卡盘。

这工作得很好，但是，偶尔当生产者线程释放工作线程正在等待的条件时，在工作线程获得控制并再次执行之前会出现长达几乎一整秒的延迟。

我知道这一点，因为在生产者释放工作人员正在等待的条件之前，如果需要处理另一个卡盘，它会为工作人员执行一个卡盘处理，然后在工作线程中接收到条件后，它也会立即执行此操作如果需要加工另一个卡盘，则加工一个卡盘。

在后面的例子中，我发现我多次延迟处理卡盘。我想消除这种效率损失，并尽我所能使卡盘的滴答声尽可能接近所需的频率。

我可以采取什么措施来减少生产者的释放条件与检测到该条件已释放以使工作人员恢复处理之间的延迟？例如，生产者调用某些东西来强制自己切换上下文是否有帮助？

最重要的是，工作人员每次要求生产者为自己创建工作时都必须等待，以便生产者可以在告诉工作人员它已准备好再次并行运行之前破坏工作人员的数据结构。生产者的独占访问时间应该很短，但在此期间，我还在检查生产者在拥有独占访问权限时代表工作人员完成的实时工作。不知何故，我再次重新并行运行会导致偶尔出现明显的延迟，这是我想避免的。请建议如何最好地实现这一点。

Answer 1

我可以建议以下模式。通常可以使用相同的技术，例如在某些实时渲染器或类似的东西中预缓冲帧时。

首先，很明显，您在消息中描述的方法只有在两个线程始终加载相同（或几乎相同）的情况下才有效。如果没有，多线程实际上会对您的情况有利。

现在，让我们考虑一下最适合您的问题的线程模式。假设我们有一个 yielding 和一个 processing 线程。第一个准备要处理的数据块，第二个进行处理并将处理结果存储在某处（实际上并不重要）。

让这些线程协同工作的有效方法是适当的屈服机制。您的yielding线程应该只是将数据添加到某个共享缓冲区，并且实际上不应该关心该数据会发生什么。而且，您的缓冲区可以实现为一个简单的 FIFO 队列。这意味着您的 yielding 线程应该准备要处理的数据并对队列进行 PUSH 调用：

X = PREPARE_DATA()
BUFFER.LOCK()
BUFFER.PUSH(X)
BUFFER.UNLOCK()

现在是 processing 线程。它的行为应该这样描述（您可能应该在调用 EMPTY 之间添加一些人为延迟，例如 SLEEP(X)），

IF !EMPTY(BUFFER) PROCESS(BUFFER.TOP)

这里重要的时刻是您的处理线程应该做什么与处理过的数据。显而易见的方法是在处理数据后进行 POP 调用，但您可能想要一些更好的想法。无论如何，在我的变体中，这看起来像

// After data is processed
BUFFER.LOCK()
BUFFER.POP()
BUFFER.UNLOCK()

请注意，yielding 和 processing 线程中的锁定操作实际上不会影响您的性能，因为每个数据块只调用一次它们。

---

现在，有趣的部分。正如我在开头所写的，只有当线程在 CPU/资源使用方面表现得有些相同时，这种方法才会有效。有一种方法可以使这些线程解决方案有效，即使这个条件并不总是成立并且对某些其他运行时条件很重要。

这种方式意味着创建另一个称为控制器线程的线程。该线程仅比较每个线程用于处理一大块数据的时间并相应地平衡线程优先级。实际上，我们不必“比较时间”，控制器线程可以简单地以如下方式工作：

IF BUFFER.SIZE() > T
   DECREASE_PRIORITY(YIELDING_THREAD)
   INCREASE_PRIORITY(PROCESSING_THREAD)

当然，您可以实现一些更好的启发式方法这里但是控制器线程的方法应该很清楚。