如何让下面的代码更快

Question

int u1, u2;  
unsigned long elm1[20], _mulpre[16][20], res1[40], res2[40]; 64 bits long     
res1, res2 initialized to zero.  

l = 60;  
while (l)  
{  
    for (i = 0; i < 20; i += 2)  
    {  
        u1 = (elm1[i] >> l) & 15;  
        u2 = (elm1[i + 1] >> l) & 15;

        for (k = 0; k < 20; k += 2)  
        {  
            simda = _mm_load_si128 ((__m128i *) &_mulpre[u1][k]);  
            simdb = _mm_load_si128 ((__m128i *) &res1[i + k]);  
            simdb = _mm_xor_si128  (simda, simdb);  
            _mm_store_si128 ((__m128i *)&res1[i + k], simdb);  

            simda = _mm_load_si128 ((__m128i *)&_mulpre[u2][k]);  
            simdb = _mm_load_si128 ((__m128i *)&res2[i + k]);  
            simdb = _mm_xor_si128  (simda, simdb);  
            _mm_store_si128 ((__m128i *)&res2[i + k], simdb);  
        } 
    }
    l -= 4;
    All res1, res2 values are left shifted by 4 bits.  
}

上面提到的代码在我的程序中被调用了很多次（分析器显示 98%）。

编辑：在内部循环中，对于相同的 (i + k) 值， res1[i + k] 值被加载多次。我在 while 循环中尝试使用此方法，将所有 res1 值加载到 simd 寄存器（数组）中，并在最里面的 for 循环中使用数组元素来更新数组元素。两个 for 循环完成后，我将数组值存储回 res1、re2。但计算时间随之增加。知道我哪里错了吗？这个想法似乎是正确的

任何建议使它更快是受欢迎的。

Answer 1

不幸的是，最明显的优化可能已经由编译器完成了：

• 您可以提取内部循环的 &_mulpre[u1] 和 &mulpre[u2] 。
• 您可以拉出内循环的 &res1[i] 。
• 对两个内部操作使用不同的变量并对它们重新排序，可能会实现更好的流水线操作。

交换外部循环可能会改善 elm1 上的缓存局部性。

Answer 2

好吧，你总是可以更少地调用它:-)

总输入&输出数据看起来相对较小，根据您的设计和预期输入，仅缓存计算或进行延迟计算而不是预先进行评估可能是可行的。

Answer 3

对于这样的例程，您几乎无能为力，因为加载和存储将是主导因素（对于单个计算指令，您正在执行 2 个加载 + 1 个存储 = 4 个总线周期）。

Answer 4

l = 60;  
while (l)  
{  
    for (i = 0; i < 20; i += 2)  
    {  
        u1 = (elm1[i] >> l) & 15;  
        u2 = (elm1[i + 1] >> l) & 15;

        for (k = 0; k < 20; k += 2)  
        {  
            _mm_stream_si128 ((__m128i *)&res1[i + k],
                    _mm_xor_si128  (
                                    _mm_load_si128 ((__m128i *) &_mulpre[u1][k]),
                                    _mm_load_si128 ((__m128i *) &res1[i + k]
                                   ));  

            mm_stream_si128 ((__m128i *)&res2[i + k],    
                    _mm_xor_si128  (
                                    _mm_load_si128 ((__m128i *)&_mulpre[u2][k]), 
                                    _mm_load_si128 ((__m128i *)&res2[i + k])
                                   ));  
        } 
    }
    l -= 4;
    All res1, res2 values are left shifted by 4 bits.  
}

1. 请记住您正在使用内在的，使用较少的 _128mi/_mm128 值将加快您的程序。
2. 尝试_mm_stream_si128()，它可能会加快存储过程。
3. 尝试预取