英特尔内在：向量比较结果与bool conversion的数组

Question

我有几个功能来比较填充布尔值数组的浮点数学向量（每次比较）。 当前，我正在比较它们逐元，但是我想使用SIMD操作来优化它。

但是，问题在于，诸如 _mm_cmpeq_ps 返回每个元素为32位的掩码之类的Intel内在物质。我对如何将比较面具转换为一系列布尔人（保证为8位）有些丢失。

我可以洗牌SIMD矢量的每个元素，然后提取低元素，但我认为这不会比逐元元素比较的效率提高。

有没有办法将矢量比较面具与布尔数组进行比较？

Answer 1

如果您可以使用该程序的其余部分，则位图是一种更有效的存储方式。 （例如通过最快的方法到32个字节simd vector 或如果您想与其他向量一起使用它，是否有Intel Avx2中的MoveMask指令的反向指令？）。

或者，如果您可以缓存它并最多可以使用几个KIB的蒙版向量，则可以直接存储比较结果即可重复使用而无需打包。 （在 alignas（16）的数组中，如果要从标量代码访问）。但是，只有在L1D中使用一个小的足迹来完成。或者更好，请即时将其用作另一个矢量操作的面具，因此您不会存储/重新加载掩码数据。

---

packssdw / packsswb dword将结果比较到

正确的字节，如果您不希望元素包装到单个位，请不要使用 _mm_movemask_ps_ps_ps 或 epi8 。相反，使用矢量包说明。 cmpps < / code>产生全零 /全零位的元素，即整数0（false）或-1（true）。

签名的整数包指令保留0/-1值，因为两者都在 int8_t ¹ 的范围内。

为了使编译器感到满意，您需要 _mm_castps_si128 重新插入 __ M128 作为 __ M128i 。

这最有效地打包了4个浮点的4个向量，每个浮点结果将结果与16个单独字节的一个向量进行比较。 （或使用AVX2，4个vecs的8个浮子降至32个字节的1 vec，因为 _MM256_PACKS_EPI32 在车道上进行操作，这是两个单独的16字节包装操作，因此需要额外的输入。可能是 _MM256_PERMUTEVAR8X32_EPI32 vpermd 以向量常数为控制操作数）

// or  bool *result  if you keep the abs value (_mm_abs_epi8) for 0 / 1 output
void cmp(int8_t *result, const float *a)
{
  __m128 cmp0 = _mm_cmp_ps(...);  // produces integer 0 or -1 elements
  __m128 cmp1 = _mm_cmp_ps(...);
  __m128 cmp2 = _mm_cmp_ps(...);
  __m128 cmp3 = _mm_cmp_ps(...);

   // 2x 32-bit dword -> 16-bit word  with signed saturation - packssdw
  __m128i lo_words = _mm_packs_epi32(_mm_castps_si128(cmp0), _mm_castps_si128(cmp1));
  __m128i hi_words  = _mm_packs_epi32(_mm_castps_si128(cmp2), _mm_castps_si128(cmp3));

  __m128i cmp_bytes = _mm_packs_epi16(lo_words, hi_words);  // packsswb: 0 / -1

 // if necessary create 0 / 1 bools.  If not, just store cmp_bytes
  cmp_bytes = _mm_abs_epi8(cmp_bytes);                        // SSSE3
  //cmp_bytes = _mm_and_si128(cmp_bytes, _mm_set1_epi8(1));   // SSE2

  _mm_storeu_si128((__m128i*)result, cmp_bytes); 
}

获得0/1而不是0/-1取得 _mm_mm_and_and_ssi128 或ssse33 _mm_abs_epi8 ，如果您确实需要 bool 而不是零/non-Zero uint8_t [] 或 int8_t [] 。

如果您只有一个float的一个向量，则需要ssse3 _mm_shuffle_epi8 （ pshufb ）才能从每个dword中获取1个字节，for _mm_mm_mmm_storeu_si32 （当心它在早期的GCC11版本中被打破了，甚至在此之前都没有支持。但是现在它被支持是一个严格确定的安全的未对齐的商店。否则使用 _mm_cvtsi128_si32 to int和 memcpy 到 bool 的

。

数组 /x86/vpmovdb：vpmovsdb：vpmovusdb“ rel =” nofollow noreferrer“> avx-512f vpmovdb /code> / vpmovusdb do at astation> do Atataivation> do Ataturation（Not Intruncation）签名的输入。这使未签名的包装说明毫无用处；我们需要先掩盖两个输入，否则它们饱和 -1 to 0 ，而不是 0xffff to 0xff 。

punpcklwd / punpckhwd 可以从两个寄存器中插入16位单词，但只能从这些寄存器的低点或高级中插入。所以不是一个很好的建筑块。

截断也可以工作，但是只有SSSE3 PSHUFB ，没有2-Register Shuffles与 pack一样有用。指令直到AVX-512。 vpblendw 可以在两个不同的输入寄存器中插入DWORD的一半）

即使与AVX-512， vpmovdb 只有一个输入寄存器，vs. vpack ... 指令产生全宽输出，并带有来自两个全宽输入的元素。 （分别在16字节的车道中，因此您仍然需要一个 vpermd ，以将来自4个浮子车道的4个字节块放入正确的订单中）。

当然，使用512位矢量宽度的AVX-512只能比较ininto掩码。这对于存储位图非常棒，只是 vcmpps k1，zmm0，[rsi] / kmov [rdi]，k1 。但是，对于存储一个bool数组，可能您需要 kunpck 与condenate比较结果，与2x kunpckwd 将16位与32位掩码相结合，然后> kunpckdq 从64个浮点上制作一个64位掩码，比较结果。然后将其与零屏蔽 vmovdqu8 zmm0 {k1} {z}，zmm1 一起存储到内存中。 （内存目的地仅允许合并屏蔽，而不是零屏蔽。）

AVX-512仍然可能仅使用256位寄存器（以避免使用Turbo罚款等等），尽管 vpermt2w < /code> / VPERMT2B 即使在Ice Lake上也不是单一UOP。

---

标量源的编译器自动矢量化是次最佳

编译器 do auto-vectorize（），但工作相当差。仍然可能比标量较快，尤其是使用AVX2。

Clang分别将每个矢量分别填充，用于4个字节存储。但是个人包装效率很高。使用AVX2，它跳过了一些额外的篮球，vextractf128，然后将8个字节填充到8个字节，然后再与另外8个布尔一起洗牌，然后再用另外16个字节。因此，它最终在一个BOOL中存储了32个字节，但是请服用BOOL，但要花费32个字节 lot shuffles到达那里。

per ymm商店，clang -march = haswell 做4个vextract，8个包，2个vinsert，1个vpunpcklqdq，1 vpermq，总共16个散套，每2个输出的每2字节。我的版本每16个字节的输出或avx2进行3个散打器，如果将所有内容扩展到 __ M256I / _mm256 ... ，并将最终的随机添加到修理巷道。 （加4x vcmpps 和1x vpabsb flip -1至+1。）

GCC使用Unsigned Pack指令，例如 packusdw 作为第一步，在每个包装指令的每个输入上执行 pand 指令。而且这两个步骤之间也不是必要的，因为我认为根据SSE4.1 packusdw /sse2 packuswb segned-code>签名的包装> sse 4.1 packusdw packusdw packUsdw sse> sse> sse> apcimed;即使它坚持使用未签名的包装，仅掩盖（或 pabsd ）的值将少得多，因此在2个包装步骤之前或之后不需要进一步的掩蔽。

（sse2 packssdw preserves -1或0很好，甚至没有饱和。似乎GCC并没有跟踪有限的比较结果值，因此没有意识到它可以让包装指令说明只是工作。）

而没有SSE4.1，GCC的确会更糟。仅使用SSSE3，它使用一些 pshufb 和 por 说明，以馈送2x pand /sse2 packuswb 。

使用Word-＆gt; byte包指令所有将其输入视为签名的说明，Intel省略了 packusdw 32 - ＆gt;直到SSE4.1的16位包装，因为将DWORD的正常第一步打包到字节为 packssdw ，即使您最终想将签名的整数固定到0..255范围。