优化数组压缩

Question

假设我有一个数组 k = [1 2 0 0 5 4 0]

我可以按如下方式计算掩码 m = k > 0 = [1 1 0 0 1 1 0]

仅使用掩码 m 和以下操作

1. 左移/右移
2. 和/或
3. 加/减/乘

我可以将 k 压缩为以下 [1 2 5 4]

这是我目前的做法（MATLAB 伪代码）：

function out = compact( in )
    d = in
    for i = 1:size(in, 2) %do (# of items in in) passes
        m = d > 0
        %shift left, pad w/ 0 on right
        ml = [m(2:end) 0] % shift
        dl = [d(2:end) 0] % shift

        %if the data originally has a gap, fill it in w/ the 
        %left shifted one
        use = (m == 0) & (ml == 1) %2 comparison  

        d = use .* dl + ~use .* d

        %zero out elements that have been moved to the left
        use_r = [0 use(1:end-1)]
        d = d .* ~use_r
    end

    out = d(1 : size(find(in > 0), 2)) %truncate the end
end

直觉

每次迭代，我们将掩码向左移动并比较掩码。如果我们发现在这次移位之后，原来为 void(mask[i] = 0) 的索引现在有效(mask[i] = 1)，则我们将索引设置为具有左移数据。

问题

上述算法的复杂度为 O(N * (3 次移位 + 2 次比较 + AND + 加法 + 3 次乘法))。有没有办法提高其效率？

Answer 1

原始伪代码没有太多需要优化的地方。我在这里看到了一些小改进：

• 循环可以少执行一次迭代（即 size-1），
• 如果“use”为零，您可以提前中断循环，
• use = (m == 0) & (ml == 1) 可能可以简化为 use = ~m & ml，
• 如果~算作单独的操作，最好使用倒置形式：use = m | ~ml, d = ~use .* dl + use .* d, use_r = [1 use(1:end-1)], d = d .*use_r

但发明更好的算法是可能的。算法的选择取决于所使用的CPU资源：

• Load-Store Unit，即将算法直接应用于内存字。在芯片制造商将高度并行的 SCATTER 指令添加到其指令集中之前，这里什么也做不了。
• SSE 寄存器，即在寄存器的整个 16 字节上工作的算法。像所提出的伪代码这样的算法在这里无济于事，因为我们已经有了各种洗牌/排列指令，可以使工作更好。使用 PMOVMSKB 的各种比较指令、按 4 位对结果进行分组并在 switch/case 下应用各种洗牌指令（如 LastCoder 所描述）是我们能做的最好的事情。
• 具有最新指令集的 SSE/AVX 寄存器提供了更好的方法。我们可以直接使用 PMOVMSKB 的结果，将其转换为 PSHUFB 之类的控制寄存器。
• 整数寄存器，即 GPR 寄存器或同时在 SSE/AVX 寄存器的多个 DWORD/QWORD 部分上工作（允许执行多个独立的压缩）。所提出的应用于整数寄存器的伪代码允许压缩任意长度（从 2 到 20 位）的二进制子集。这是我的算法，它可能会表现得更好。

C++，64 位，子集宽度 = 8：

typedef unsigned long long ull;
const ull h = 0x8080808080808080;
const ull l = 0x0101010101010101;
const ull end = 0xffffffffffffffff;

// uncompacted bytes
ull x = 0x0100802300887700;

// set hi bit for zero bytes (see D.Knuth, volume 4)
ull m = h & ~(x | ((x|h) - l));

// bitmask for nonzero bytes
m = ~(m | (m - (m>>7)));

// tail zero bytes need no special treatment
m |= (m - 1);

while (m != end)
{
  ull tailm = m ^ (m + 1); // bytes to be processed
  ull tailx = x & tailm; // get the bytes
  tailm |= (tailm << 8); // shift 1 byte at a time
  m |= tailm; // all processed bytes are masked
  x = (x ^ tailx) | (tailx << 8); // actual byte shift
}

Answer 2

因此，您需要弄清楚对于这样一个简单的任务，额外的并行性、移位/洗牌开销是否值得。

for(int inIdx = 0, outIdx = 0; inIdx < inLength; inIdx++) {
 if(mask[inIdx] == 1) {
  out[outIdx] = in[inIdx];
  outIdx++;
 }
}

如果您想采用并行 SIMD 路线，最好的选择是使用 SWITCH CASE，其中包含掩码接下来 4 位的所有可能排列。为什么不是8？因为 PSHUFD 指令只能在 XMMX m128 上洗牌，而不能在 YMMX m256 上洗牌。

所以你做了 16 种情况：

• [1 1 1 1], [1 1 1 0], [1 1 0 0], [1 0 0 0], [0 0 0 0] 不需要任何特殊的移位/洗牌只需将输入复制到输出 MOVDQU 并将输出指针分别递增 4、3、2、1、0。
• [0 1 1 1], [0 0 1 1], [0 1 1 0], [0 0 0 1], [0 1 0 0], [0 0 1 0] 你只需要使用 PSRLx (右移逻辑）并将输出指针分别增加 3, 2, 2, 1, 1, 1
• [1 0 0 1], [1 0 1 0], [0 1 0 1]、[1 0 1 1]、[1 1 0 1] 使用 PSHUFD 打包输入，然后分别将输出指针增加 2、2、2、3、3。

因此，每种情况都是最少量的处理（1 到 2 个 SIMD 指令和 1 个输出指针加法）。 case 语句的周围循环将处理常量输入指针加法（加 4）和 MOVDQA 来加载输入。

Answer 3

原始代码一次仅移动数组元素一步。这可能会得到改善。可以对数组元素进行分组并一次将它们移动 2^k 步。

该算法的第一部分计算每个元素应移动多少步。第二部分移动元素 - 首先移动一步，然后移动 2 步，然后移动 4 步，等等。这可以正常工作，并且元素不会混合，因为每次移位后都有足够的空间来执行 2 倍大的移位。

Matlab，代码未测试：

function out = compact( in )
    m = in <= 0
    for i = 1:size(in, 2)-1
        m = [0 m(1:end-1)]
        s = s + m
    end

    d = in
    shift = 1
    for j = 1:ceil(log2(size(in, 2)))
        s1 = rem(s, 2)
        s = (s - s1) / 2
        d = (d .* ~s1) + ([d(1+shift:end) zeros(1,shift)] .* [s1(1+shift:end) zeros(1,shift)])
        shift = shift*2
    end
    out = d
end

上述算法的复杂度为 O(N * (1 shift + 1 add) + log(N) * (1 rem + 2 add + 3 mul + 2 shift))。

Answer 4

阅读原始问题下面的评论，在实际问题中，数组包含 32 位浮点数，掩码是（一个？）32 位整数，所以我不明白为什么应该使用移位等压缩数组。简单的压缩算法（用 C 语言）将是这样的：

float array[8];
unsigned int mask = ...;
int a = 0, b = 0;
while (mask) {
  if (mask & 1) { array[a++] = array[b]; }
  b++;
  mask >>= 1;
}
/* Size of compacted array is 'a' */
/* Optionally clear the rest: */
while (a < 8) array[a++] = 0.0;

较小的变化将由掩码的位顺序引起，但唯一需要的 ALU 操作是索引变量更新以及掩码的移位和与操作。由于原始数组至少有 256 位宽，因此普通 CPU 无法按位移动整个数组。

Answer 5

假设您想要的是在 C++ 中以最少的步骤仅存储数组中的正整数，这是一个示例代码：

int j = 0;
int arraysize = (sizeof k)/4;
int store[arraysize];
for(int i = 0; i<arraysize; i++)
{
    if(k[i] > 0)
    {
        store[j] = k[i];
        j++;
    }
}

或者，如果您不想使用 <，也可以直接使用 k[ ] 的元素代码>for循环。