对 postgresql 数据库转储进行排序 (pg_dump)

Question

我正在创建 pg_dumps、DUMP1 和 DUMP2。

DUMP1 和 DUMP2 完全相同，只是 DUMP2 以 DUMP1 的相反顺序转储。

无论如何，我可以对两个转储进行排序，以便两个转储文件完全相同（使用差异时）？

我正在使用 PHP 和 Linux。我尝试在Linux中使用“排序”，但这不起作用......

谢谢！

Answer 1

来自您上一个问题 ，我假设您真正想做的是与数据库进行比较，看看它们是否相同，包括数据。

正如我们所见，pg_dump 的行为不会具有确定性。一个文件与另一个文件相反这一事实可能只是巧合。

这是一种可以进行包括架构和数据在内的全面比较的方法。

首先，比较架构 使用这个方法。

其次，通过按照一致的顺序将数据全部转储到文件中来比较数据。首先按名称对表进行排序，然后按主键列对每个表中的数据进行排序，从而保证顺序。

下面的查询生成 COPY 语句。

select
    'copy (select * from '||r.relname||' order by '||
    array_to_string(array_agg(a.attname), ',')||
    ') to STDOUT;'
from
    pg_class r,
    pg_constraint c,
    pg_attribute a
where
    r.oid = c.conrelid
    and r.oid = a.attrelid
    and a.attnum = ANY(conkey)
    and contype = 'p'
    and relkind = 'r'
group by
    r.relname
order by
    r.relname

运行该查询将为您提供一个语句列表，例如 copy (select * from test order by a,b) to STDOUT; 将这些全部放入一个文本文件中，并通过每个数据库的 psql 运行它们，然后比较输出文件。您可能需要调整输出设置以COPY。

Answer 2

我的解决方案是为 pg_dump 输出编写一个自己的程序。请随意下载 PgDumpSort，它按主键对转储进行排序。 Java 默认内存为 512MB，每个表最多可处理 1000 万条记录，因为记录信息（主键值、文件偏移量）保存在内存中。

你使用这个小Java程序，例如，

java -cp ./pgdumpsort.jar PgDumpSort db.sql

你会得到一个名为“db-sorted.sql”的文件，或者指定输出文件名：

java -cp ./pgdumpsort.jar PgDumpSort db.sql db-$(date +%F).sql

文件中

排序后的数据位于“db-2013-06-06.sql”这样的 您可以使用 diff 创建补丁

diff --speed-large-files -uN db-2013-06-05.sql db-2013-06-06.sql >db-0506.diff

这允许您创建通常更小的增量备份。要恢复文件，您必须使用

 patch -p1 < db-0506.diff

（源代码位于 JAR 文件内）将补丁应用到原始文件

Answer 3

这是该问题的另一种解决方案： https://github.com/tigra564/pgdump-sort

它允许对 DDL 和 DML 进行排序，包括将易失性值（如序列值）重置为一些规范值，以最大限度地减少结果差异。

Answer 4

如果

• 性能不如顺序重要，
• 您只关心数据而不是架构
• ，并且您可以重新创建两个转储（您不必使用现有转储），

您可以按确定的顺序转储 CSV 格式的数据像这样：

COPY (select * from your_table order by some_col) to stdout
      with csv header delimiter ',';

请参阅 COPY (v14)

Answer 5

可能不值得花精力去解析转储。

将 DUMP2 恢复到临时数据库并按正确的顺序转储临时数据库会快得多。