在服务器之间传输快速变化的数据

Question

我的服务器 1 正在生成大量数据，例如，有一些文件不断更新，时间尺度为毫秒。

我想使用 C++ 或标准 Linux 方法将这些文件传输到另一台服务器上。

目前，我一直通过每秒压缩文件并使用 scp 传输它们，然后在其他服务器上解压来做到这一点。

然而，这个延迟非常高，我不能用这个来打破 1 秒以下的时间。

有人可以建议我可以用来以较低延迟移动数据的方法吗？

Answer 1

只是一个想法，我不知道它是否适合您的特定情况：
写两个程序。在更新文件的服务器上运行的一个，它使用 inotify 监视更改。另一个程序在第二个服务器上运行并与第一个服务器保持 tcp 连接。每当第一个程序检测到更改时，它就会将文件的更改部分发送到第二个程序，第二个程序可以将更改应用到它自己的文件副本。

此外，如果第一台服务器实际上并未为这些文件生成数据，而是从新网络中读取数据，则最好将数据流多播到两台服务器。

Answer 2

在 Linux 上，您可以使用 DRBD 和 GFS2 等集群文件系统在两台服务器之间透明地复制某些分区。

另一种选择是使用 rsync。

Answer 3

一个 Perl 脚本，它使用 inotify 检测文件系统上的更改，并通过 SSH rsync 重新同步远程副本：

#!/usr/bin/perl

use strict;
use warnings;

use Net::OpenSSH;
use Linux::Inotify2;
use Time::HiRes qw(sleep);

my $usage = "Usage:\n  $0 local_dir [user\@]host remote_dir\n\n";

@ARGV == 3 or die $usage;
my ($local, $host, $remote) = @ARGV;

-d $local or die $usage;

my $ssh = Net::OpenSSH->new($host);
$ssh->error and die "unable to connect to remote host: " . $ssh->error;

my $inotify = Linux::Inotify2->new;
$inotify->watch ($local, IN_MODIFY|IN_MOVED_TO);

$ssh->rsync_put({verbose => 1, glob => 1}, "$local/*", $remote);

while (1) {
    my @events = $inotify->read or die "read error: $!";
    my %changed;
    $changed{"$local/$_->{name}"} = 1 for @events;
    $ssh->rsync_put({verbose => 1}, keys %changed, $remote);
    sleep 0.1;
}

更新：@user788171：回答您的问题：

可能是也可能不是，有太多的未知数：

• 有多少文件实际上改变了
• 它们的大小
• ，相对于完整文件大小的变化有多大
• 网络带宽和延迟
• 双方可用的CPU功率
• 等。

但是尝试它很便宜，所以我建议你这样做，如果不是的话足够的，然后你可以尝试找出瓶颈并尝试消除它们。

例如，rsync 是一种有通话协议，对网络延迟非常敏感，因此，如果您的文件很小，scp 可能会产生更好的结果。或者，您可以为每个文件保留本地传输的最后版本的本地副本，并仅发送增量。如果CPU是瓶颈，用C++重写它，消除SSH等。

如果无论如何，这种方法变成了死胡同，那么，你仍然可以......

• 在操作系统级别上做，使用DRDB或其他一些透明的复制机制。您甚至可以尝试使用 FUSE 自己实现。

• 修改您的主应用程序以写入可以轻松流式传输到另一端的更改日志。