与平台无关的文件锁定？

Question

我正在进行一项计算量非常大的科学工作，时不时地会得出结果。 这项工作基本上就是多次模拟同一件事，因此它被分配到使用不同操作系统的多台计算机上。 我想将所有这些实例的输出定向到同一个文件，因为所有计算机都可以通过 NFS/Samba 查看相同的文件系统。 以下是限制：

1. 必须允许安全并发追加。 如果另一台计算机上的某个其他实例当前正在附加到该文件，则必须阻止。
2. 性能不重要。 每个实例的 I/O 每分钟仅几个字节。
3. 简单确实很重要。 这样做的全部意义（除了纯粹的好奇心之外）是这样我就可以停止让每个实例写入不同的文件并手动将这些文件合并在一起。
4. 不得依赖于文件系统的详细信息。 必须使用 NFS 或 Samba 装载上的未知文件系统。

我使用的语言是 D，以防万一。 我看过，标准库中似乎没有任何东西可以做到这一点。 D 特定的和一般的、与语言无关的答案都是完全可以接受和赞赏的。

Answer 1

通过 NFS，您会面临客户端缓存和陈旧数据的一些问题。 我之前写过一个独立于操作系统的锁模块来通过 NFS 工作。 创建 [datafile].lock 文件的简单想法在 NFS 上效果不佳。 解决这个问题的基本思想是创建一个锁定文件 [datafile].lock，如果存在，则意味着文件未锁定，并且想要获取锁定的进程将文件重命名为不同的名称，例如 [datafile].lock.[主机名].[pid]。 重命名是一个足够原子的操作，它在 NFS 上运行得很好，可以保证锁的独占性。 其余的基本上是一堆故障安全、循环、错误检查和锁检索，以防进程在释放锁并将锁文件重命名回 [datafile].lock 之前终止

Answer 2

经典的解决方案是使用锁定文件，或更准确地说是锁定目录。 在所有常见的操作系统上，创建目录都是原子操作，因此例程是：

• 尝试在固定位置创建具有固定名称的锁定目录，
• 如果创建失败，请等待一秒钟左右，然后重试 - 重复直到成功
• 写入数据到真实数据文件
• 删除锁定目录

这已经被诸如CVS之类的应用程序在许多平台上使用了很多年。 唯一的问题发生在极少数情况下，即您的应用程序在写入时和移除锁之前崩溃。

Answer 3

为什么不直接构建一个位于文件和其他计算机之间的简单服务器呢？

那么如果你想改变数据格式，你只需要修改服务器，而不是所有的客户端。

在我看来，构建服务器比尝试使用网络文件系统要容易得多。

Answer 4

用扭曲锁定文件

就像其他答案提到的那样，最简单的方法是在与数据文件相同的目录中创建一个锁定文件。

由于您希望能够通过多台 PC 访问同一文件，因此我能想到的最佳解决方案是仅包含当前写入数据文件的计算机的标识符。

因此，写入数据文件的顺序为：

1. 检查是否存在锁定文件

2. 如果存在锁定文件，请查看是否存在通过检查其内容是否具有我的标识符来拥有它。
   如果是这种情况，只需写入数据文件，然后删除锁定文件即可。
   如果情况并非如此，只需等待一秒钟或一段随机的时间，然后再次尝试整个循环。

3. 如果没有锁定文件，请使用我的标识符创建一个，然后再次尝试整个循环以避免竞争条件（重新检查锁定文件是否确实是我的）。

除了标识符之外，我还会在锁定文件中记录时间戳，并检查它是否早于给定的超时值。
如果时间戳太旧，则假设锁定文件已过时并删除它，因为这意味着写入数据文件的 PC 之一可能已崩溃或其连接可能已丢失。

另一种解决方案

如果您可以控制数据文件的格式，可以在文件的开头保留一个结构来记录它是否被锁定。
例如，如果您只是为此目的保留一个字节，则可以假设 00 表示数据文件未锁定，而其他值表示当前写入的机器的标识符它。

NFS 问题

好的，我添加了一些内容，因为 Jiri Klouda 正确指出 NFS 使用客户端缓存，这将导致实际的锁定文件处于不确定状态。

解决此问题的几种方法：

• 使用 noac 或 sync 选项挂载 NFS 目录。 这很简单，但并不能完全保证客户端和服务器之间的数据一致性，因此可能仍然存在问题，尽管在您的情况下可能没问题。

• 使用O_DIRECT、O_SYNC 或O_DSYNC 属性打开锁定文件或数据文件。 这应该完全禁用缓存。
  这会降低性能，但会确保一致性。

• 您也许能够使用flock()来锁定数据文件，但其实现参差不齐，您需要检查您的特定操作系统是否确实使用了NFS锁定服务。 否则它可能什么也不做。
  如果数据文件被锁定，则另一个客户端打开它进行写入将失败。
  哦，是的，它似乎不适用于 SMB 共享，因此最好忘记它。

• 不要使用 NFS，而只使用 Samba：有一个好的方法关于该主题的文章以及为什么 NFS 可能不是您的使用场景的最佳答案。
  您还将在本文中找到锁定文件的各种方法。

• Jiri 的解决方案也是一个不错的解决方案。

基本上，如果您想让事情变得简单，请不要将 NFS 用于在多台计算机之间共享的频繁更新的文件。

有所不同

使用小型数据库服务器将数据保存到并完全绕过 NFS/SMB 锁定问题，或者保留当前的多个数据文件系统并仅编写一个小型实用程序来连接结果。
它可能仍然是解决您问题的最安全、最简单的解决方案。

Answer 5

我不知道 D，但我认为使用互斥文件来完成这项工作可能会起作用。 以下是一些您可能会觉得有用的伪代码：

do {
  // Try to create a new file to use as mutex.
  // If it's already created, it will throw some kind of error.
  mutex = create_file_for_writing('lock_file');
} while (mutex == null);

// Open your log file and write results
log_file = open_file_for_reading('the_log_file');
write(log_file, data);
close_file(log_file);

close_file(mutex);
// Free mutex and allow other processes to create the same file.
delete_file(mutex); 

因此，所有进程都会尝试创建互斥文件，但只有获胜的进程才能继续。 写入输出后，关闭并删除互斥锁，以便其他进程可以执行相同的操作。