如何优化SYCL内核

Question

我正在大学学习SYCL，我对代码的性能有疑问。 特别是我有此c/c ++代码：

我需要在具有并行化的SYCL内核中翻译它，我这样做：

#include <sycl/sycl.hpp>
#include <vector>
#include <iostream>
using namespace sycl;
constexpr int size = 131072; // 2^17
int main(int argc, char** argv) {
  // Create a vector with size elements and initialize them to 1
  std::vector<float> dA(size); 
  try {
    queue gpuQueue{ gpu_selector{} };
    buffer<float, 1> bufA(dA.data(), range<1>(dA.size()));
    gpuQueue.submit([&](handler& cgh) {
                    accessor inA{ bufA,cgh };
                    cgh.parallel_for(range<1>(size),
                                     [=](id<1> i) { inA[i] = inA[i] + 2; }
                    );
    });
    gpuQueue.wait_and_throw();
  }
  catch (std::exception& e) { throw e; }
}

所以我的问题是关于c值，在此中情况我直接使用了两个值，但这会在我运行代码时会影响性能吗？我需要创建一个变量，或者以这种方式是正确的，并且性能良好？

Answer 1

有趣的问题。在这种情况下，值2将是SYCL内核中指令中的字面意义 - 我认为这是尽可能高的效率！您有一个轻微的并发症，您将隐式铸件从int到float。我的猜测是，您可能会在设备组装中以float文字 2.0 。您的SYCL设备不必在运行时或类似的东西中从内存或铸造中获取该2，它只是存在于说明中。

同样，如果您有：

constexpr int c = 2;
// the rest of your code
[=](id<1> i) { inA[i] = inA[i] + c; }
// etc

编译器几乎可以肯定足够聪明，可以将c的常数值传播到内核代码中。因此，同样，2.0字面的说明最终出现在说明中。

我用DPC ++编制了您的示例，并提取了LLVM IR，并找到了以下行：

  %5 = load float, float addrspace(4)* %arrayidx.ascast.i.i, align 4, !tbaa !17
  %add.i = fadd float %5, 2.000000e+00
  store float %add.i, float addrspace(4)* %arrayidx.ascast.i.i, align 4, !tbaa !17

这显示了float Load＆amp;在同一地址存储/从同一地址存储，并在两者之间使用“添加2.0”指令。如果我修改以使用我所展示的变量c，则获得相同的LLVM IR。

结论：您已经达到了最大的效率，并且编译器很聪明！