着色器中分支的效率

Question

我知道这个问题可能看起来有些没有根据，但是如果有人对这个主题有任何理论知识/有实践经验，如果你能分享它那就太好了。

我正在尝试优化我的一个旧着色器，它使用大量纹理查找。

对于三个可能的映射平面中的每一个，我都有漫反射、法线、镜面反射贴图，对于一些靠近用户的面，我还必须应用映射技术，这也会带来大量的纹理查找（如视差遮挡映射）。

分析表明纹理查找是着色器的瓶颈，我愿意删除其中一些。对于输入参数的某些情况，我已经知道部分纹理查找是不必要的，明显解决方案是执行（伪代码）之类的操作em>：

if (part_actually_needed) {
   perform lookups;
   perform other steps specific for THIS PART;
}

// All other parts.

现在 - 问题来了。

我不太记得了（这就是为什么我说这个问题可能毫无根据），但在我最近读到的一些论文中 >（不幸的是，不记得名字了）有类似以下内容的陈述：

所呈现的性能 技术取决于效率 基于硬件的条件 实现了分支。

在我即将开始重构大量着色器并实现我正在谈论的基于 if 的优化之前，我想起了这种说法。

那么 - 在我开始这样做之前 - 有人知道着色器中分支的效率吗？为什么分支会给着色器带来严重的性能损失？

是否有可能我只能使用基于 if 的分支来恶化实际性能？

---

你可能会说 - 尝试并明白了。 是的，如果这里没有人帮助我，我就会这么做:)

但是，在 if 情况下，对于新 GPU 可能有效的情况可能会是一场噩梦年纪大一点的。 这种问题很难预测，除非你有很多不同的 GPU（这不是我的情况）

所以，如果有人了解这一点或有此类基准测试经验着色器，我真的很感谢你的帮助。

---

几乎没有真正工作的剩余脑细胞不断告诉我，GPU 上的分支可能远不如 CPU 上的分支有效（CPU 通常具有极其有效的分支预测方式）并消除缓存未命中）仅仅因为它是 GPU（或者可能很难/不可能在 GPU 上实现）。

不幸的是，我不确定这个说法是否与真实情况有任何共同点......

Answer 1

在许多情况下，两个分支都可以作为插值器按条件进行计算和混合。
这种方法的工作速度比分支要快得多。也可用于CPU。
例如：

...

vec3 c = vec3(1.0, 0.0, 0.0);
如果（a==b）
c = vec3(0.0, 1.0, 0.0);

可以替换为：

vec3 c = mix(vec3(1.0, 0.0, 0.0), vec3(0.0, 1.0, 0.0), (a == b));

...

Answer 2

这是 Kindle Fire 上的真实世界性能基准：

在片段着色器中...

运行速度为 20fps：

lowp vec4 a = vec4(0.0, 0.0, 0.0, 0.0);
if (a.r == 0.0)
    gl_FragColor = texture2D ( texture1, TextureCoordOut );   

运行速度为 60fps：

gl_FragColor = texture2D ( texture1, TextureCoordOut );   

Answer 3

我不知道基于 if 的优化，但是如何创建您认为需要的纹理查找的所有排列，每个排列都有自己的着色器，然后针对正确的情况使用正确的着色器（取决于纹理在其上查找特定模型或模型的一部分（需要）。我想我们在 Xbox 360 版《Bully》中也做了类似的事情。

Answer 4

不幸的是，我认为真正的答案是使用特定情况的性能分析器在目标硬件上进行实际测试。特别是考虑到听起来您正处于项目优化阶段；这是考虑硬件频繁变化和特定着色器性质这一事实的唯一方法。

在 CPU 上，如果您得到错误预测的分支，则会导致管道刷新，并且由于 CPU 管道非常深，因此您实际上会丢失大约 20 个或更多周期的内容。在 GPU 上情况有些不同；管道可能要浅得多，但没有分支预测，并且所有着色器代码都将位于快速内存中 - 但这并不是真正的区别。

很难知道正在发生的一切的确切细节，因为 nVidia 和 ATI 相对守口如瓶，但关键是 GPU 是为大规模并行执行而设计的。有许多异步着色器核心，但每个核心又被设计为运行多个线程。我的理解是，每个核心都希望在任何给定周期内的所有线程上运行相同的指令（nVidia 将此线程集合称为“扭曲”）。

在这种情况下，线程可能代表一个顶点、一个几何元素或一个像素/片段，而扭曲是其中大约 32 个的集合。对于像素，它们可能是屏幕上彼此靠近的像素。问题是，如果在一个 warp 内，不同的线程在条件跳转时做出不同的决定，则 warp 就会发散，并且不再为每个线程运行相同的指令。硬件可以处理这个问题，但并不完全清楚（至少对我来说）它是如何做到的。每一代卡牌的处理方式也可能略有不同。最新、最通用的 CUDA/计算着色器友好型 nVidias 可能具有最佳的实现；旧卡的实现可能较差。最糟糕的情况是您可能会发现许多线程同时执行 if/else 语句的两侧。

着色器的一大技巧是学习如何利用这种大规模并行范例。有时，这意味着使用额外的通道、临时屏外缓冲区和模板缓冲区将逻辑从着色器中推送到 CPU 上。有时，优化可能会消耗更多周期，但实际上可能会减少一些隐藏的开销。

另请注意，您可以将 DirectX 着色器中的 if 语句显式标记为 [branch] 或 [flatten]。展平样式可以为您提供正确的结果，但始终执行指令中的所有内容。如果您没有明确选择一个，编译器可以为您选择一个 - 并且可能会选择[展平]，这对您的示例没有好处。

要记住的一件事是，如果跳过第一个纹理查找，这将混淆硬件的纹理坐标导数数学。您会遇到编译器错误，最好不要这样做，否则您可能会错过一些更好的纹理支持。

Answer 5

如果条件是统一的（即整个通道的常数），则分支本质上是免费的，因为框架本质上会编译着色器的两个版本（采用分支和不采用分支），并根据您的输入为整个通道选择其中之一多变的。在这种情况下，一定要使用 if 语句，因为它会让你的着色器更快。

如果每个顶点/像素的条件各不相同，那么它确实会降低性能，并且旧的着色器模型甚至不支持动态分支。