如何在进行最多 3N 次比较的同时实现 std::make_heap？

Question

我查看了 C++0x 标准，发现 make_heap 的比较次数不应超过 3*N 次。

即heapify一个无序集合可以在O(N)内完成，

   /*  @brief  Construct a heap over a range using comparison functor.

这是为什么呢？

源代码没有给我任何线索（g++ 4.4.3）

while (true) + __parent == 0 不是线索，而是对 O(N) 行为的猜测

template<typename _RandomAccessIterator, typename _Compare>
void
make_heap(_RandomAccessIterator __first, _RandomAccessIterator __last,
          _Compare __comp)
{

  const _DistanceType __len = __last - __first;
  _DistanceType __parent = (__len - 2) / 2;
  while (true)
    {
      _ValueType __value = _GLIBCXX_MOVE(*(__first + __parent));
      std::__adjust_heap(__first, __parent, __len, _GLIBCXX_MOVE(__value),
                 __comp);
      if (__parent == 0)
        return;
      __parent--;
    }
}

__adjust_heap 看起来像一个 log N 方法：

while ( __secondChild < (__len - 1) / 2)
{
    __secondChild = 2 * (__secondChild + 1);

Is a bog standard log N to我。

  template<typename _RandomAccessIterator, typename _Distance,
       typename _Tp, typename _Compare>
    void
    __adjust_heap(_RandomAccessIterator __first, _Distance __holeIndex,
          _Distance __len, _Tp __value, _Compare __comp)
    {
      const _Distance __topIndex = __holeIndex;
      _Distance __secondChild = __holeIndex;
      while (__secondChild < (__len - 1) / 2)
      {
        __secondChild = 2 * (__secondChild + 1);
          if (__comp(*(__first + __secondChild),
             *(__first + (__secondChild - 1))))
          __secondChild--;
          *(__first + __holeIndex) = _GLIBCXX_MOVE(*(__first + __secondChild));
          __holeIndex = __secondChild;
      }
      if ((__len & 1) == 0 && __secondChild == (__len - 2) / 2)
      {
        __secondChild = 2 * (__secondChild + 1);
        *(__first + __holeIndex) = _GLIBCXX_MOVE(*(__first
                             + (__secondChild - 1)));
        __holeIndex = __secondChild - 1;
      }
      std::__push_heap(__first, __holeIndex, __topIndex, 
               _GLIBCXX_MOVE(__value), __comp);      
      }

任何关于为什么这是 O <= 3N 的线索将不胜感激。
编辑：

实验结果：

这个实际实现使用

• <2N 比较来堆化堆
• <1.5N 以相反的顺序堆化堆。

Answer 1

使用巧妙的算法和巧妙的分析，可以在 O(n) 时间内创建包含 n 个元素的二叉堆。接下来，我将讨论假设您有显式节点和显式左子指针和右子指针的情况，这是如何工作的，但是一旦将其压缩到数组中，此分析仍然完全有效。

该算法的工作原理如下。首先获取大约一半的节点并将它们视为单例最大堆 - 由于只有一个元素，因此仅包含该元素的树必须自动成为最大堆。现在，将这些树配对。对于每一对树，取一个尚未使用的值并执行以下算法：

1. 使新节点成为堆的根，使其左子节点和右子节点指针指向两个 max-

2. 当此节点有一个比它大的子节点时，请将子节点与其较大的子节点交换。

我的主张是，这个过程最终会生成一个新的最大堆，其中包含两个输入最大堆的元素，并且在时间 O(h) 内完成，其中 h 是两个堆的高度。证明是对堆高度的归纳。作为基本情况，如果子堆的大小为零，则算法会立即以单例最大堆终止，并且会在 O(1) 时间内完成此操作。对于归纳步​​骤，假设对于某些 h，此过程适用于任何大小为 h 的子堆，并考虑在两个大小为 h + 1 的堆上执行它时会发生什么。当我们添加一个新根以将两个大小为 h 的子树连接在一起时，会发生什么情况h + 1，有三种可能：

1. 新的根比两个子树的根都大。然后在这种情况下，我们有一个新的最大堆，因为根大于任一子树中的任何节点（通过传递性）

2. 新根比一个子树大，比另一个子树小。然后我们将根与较大的子树交换，并使用旧根和子树的两个子树（每个子树的高度均为 h）再次递归执行此过程。根据归纳假设，这意味着我们交换到的子树现在是最大堆。因此，整个堆是一个最大堆，因为新的根大于我们交换的子树中的所有内容（因为它大于我们添加的节点并且已经大于该子树中的所有内容），并且它也大于所有内容在另一个子树中（因为它比根大，而根比另一个子树中的所有内容都大）。

3. 新根比它的两个子根都小。然后使用上述分析的稍微修改版本，我们可以表明生成的树确实是一个堆。

此外，由于每一步子堆的高度都会减少 1，因此该算法的总体运行时间必须为 O(h)。

---

此时，我们有一个简单的创建堆的算法：

1. 获取大约一半的节点并创建单例堆。 （您可以明确计算此处需要多少个节点，但大约是一半）。
2. 将这些堆配对，然后使用未使用的节点之一和上述过程将它们合并在一起。
3. 重复步骤 2，直到只剩下一个堆。

由于在每一步中我们都知道到目前为止我们拥有的堆是有效的最大堆，因此最终会产生一个有效的总体最大堆。如果我们巧妙地选择要创建多少个单例堆，这最终也会创建一个完整的二叉树。

然而，看起来这应该在 O(n lg n) 时间内运行，因为我们进行 O(n) 次合并，每个合并都在 O(h) 中运行，并且在最坏的情况下我们要合并的树的高度是 O(lg n)。但这个界限并不严格，我们可以通过更精确的分析做得更好。

特别是，让我们考虑一下我们合并的所有树有多深。大约一半的堆的深度为零，然后剩下的一半的深度为一，然后剩下的一半的深度为二，依此类推。如果我们将其相加，我们就得到了总和

0 * n/2 + 1 * n/4 + 2 * n/8 + ... + nk/(2^k) = Σ_{k = 0} ^{⌈log n⌉} (nk / 2^k) = n Σ_{k = 0}^{⌈log n⌉} (k / 2^k+1)

这是交换次数的上限。每次交换最多需要两次比较。因此，如果我们将上述总和乘以 2，我们将得到以下总和，该总和确定了交换次数的上限：

n Σ_{k = 0}^∞ (k / 2^k)

这里的求和就是求和 0 / 2⁰ + 1 / 2¹ + 2 / 2² + 3 / 2³ + ... .这是一个著名的总结，可以通过多种不同的方式进行评估。给出了一种评估方法 在这些讲座幻灯片中，幻灯片 45-47。最终结果恰好为 2n，这意味着最终进行的比较次数肯定以 3n 为界。

希望这有帮助！

Answer 2

@templatetypedef 已经给出了一个很好的答案为什么 < code>build_heap 的时间复杂度为O(n)。 CLRS 第二版的第 6 章也有一个证明。

至于为什么 C++ 标准要求最多使用 3n 次比较：

从我的实验（参见下面的代码）来看，实际上需要的比较少于 2n 次。事实上，这些讲义包含一个证明build_heap 仅使用 2(n-⌈log n⌉) 比较。

标准的界限似乎比要求的更宽松。

---

def parent(i):
    return i/2

def left(i):
    return 2*i

def right(i):
    return 2*i+1

def heapify_cost(n, i):
    most = 0
    if left(i) <= n:
        most = 1 + heapify_cost(n, left(i))
    if right(i) <= n:
        most = 1 + max(most, heapify_cost(n, right(i)))
    return most

def build_heap_cost(n):
    return sum(heapify_cost(n, i) for i in xrange(n/2, 1, -1))

一些结果：

n                     10  20  50  100  1000  10000
build_heap_cost(n)     9  26  83  180  1967  19960