线程系统如何应对不同 cpu 缓存的共享数据？

Question

我主要有 C++ 背景，但我认为这个问题适用于任何语言的线程。 场景如下：

1. 我们有两个线程（ThreadA 和 ThreadB），共享内存中有一个值 x

2. 假设对 x 的访问由互斥体（或其他合适的同步控制）适当地控制

3. 如果线程碰巧在不同的处理器上运行，如果 ThreadA 执行写操作，但其处理器将结果放入 L2 缓存而不是主内存中，会发生什么情况？ 那么，如果 ThreadB 尝试读取该值，它是否不会只查看自己的 L1/L2 缓存/主内存，然后使用那里的旧值？

如果不是这种情况，那么如何处理这个问题？

如果是这样的话，那该怎么办呢？

Answer 1

你的例子就可以正常工作。

多个处理器使用一致性协议，例如MESI 以确保数据在缓存之间保持同步。 使用 MESI，每个高速缓存行都被视为已修改、独占、在 CPU 之间共享或无效。 写入在处理器之间共享的高速缓存行会强制它在其他 CPU 中变得无效，从而保持高速缓存同步。

然而，这还不够。 不同的处理器具有不同的内存模型，并且大多数现代处理器都支持某种程度的重新排序内存访问。 在这些情况下，需要内存屏障。

例如，如果您有线程 A：

DoWork();
workDone = true;

和线程 B：

while (!workDone) {}
DoSomethingWithResults()

两者都在单独的处理器上运行，则无法保证在写入 workDone 和 DoSomethingWithResults() 可能继续之前，线程 B 可以看到 DoWork() 中完成的写入不一致的状态。 内存屏障保证了读取和写入的某种顺序 - 在线程 A 中的 DoWork() 之后添加内存屏障将强制 DoWork 完成的所有读取/写入在写入 workDone 之前完成，以便线程 B 获得一致的视图。 互斥体本质上提供了内存屏障，因此读/写无法传递对锁定和解锁的调用。

在您的情况下，一个处理器会向其他处理器发出信号，表明它弄脏了缓存行，并强制其他处理器从内存中重新加载。 获取互斥体来读取和写入值可保证内存更改按预期顺序对其他处理器可见。

Answer 2

大多数锁定原语（例如互斥锁）都意味着内存屏障。 这些强制发生缓存刷新和重新加载。

例如，

ThreadA {
    x = 5;         // probably writes to cache
    unlock mutex;  // forcibly writes local CPU cache to global memory
}
ThreadB {
    lock mutex;    // discards data in local cache
    y = x;         // x must read from global memory
}

Answer 3

一般来说，编译器理解共享内存，并花费相当大的努力来确保共享内存放置在可共享的位置。 现代编译器对操作和内存访问进行排序的方式非常复杂。 他们倾向于理解线程和共享内存的本质。 这并不是说它们是完美的，但总的来说，编译器已经解决了大部分问题。

Answer 4

C# 对此类问题有一些内置支持。
您可以使用 volatile 关键字标记变量，这会强制它在所有 cpu 上同步。

public static volatile int loggedUsers;

另一部分是 .NET 方法的语法包装器，称为 Threading.Monitor.Enter(x) 和 Threading.Monitor.Exit(x)，其中 x 是要锁定的变量。 这会导致其他尝试锁定 x 的线程必须等待，直到锁定线程调用 Exit(x)。

public list users;
// In some function:
System.Threading.Monitor.Enter(users);
try {
   // do something with users
}
finally {
   System.Threading.Monitor.Exit(users);
}