D3DXCompileShader 在 Visual Studio 之外运行时出现奇怪的错误

Question

我真的有两个问题。

第一个更多的是对事件的描述：软件使用 DirectX 9 并在启动时从资源编译着色器。当您从 IDE 中运行该软件时，着色器可以在调试版本和发布版本中编译良好，但是当您双击它以独立运行它时，您开始从 D3DXCompileShader 中收到许多奇怪的错误。

我将此归因于 Visual Studio 已将着色器文本文件转换为 Unicode 的可能性，并且这会以某种方式引发 D3DXCompileShader。为什么当我在 IDE 内而不是在 IDE 之外时它们可以编译并运行正常，这是一个谜（注意，如果您在 VS 外部启动它，然后将调试器附加到进程，它仍然会失败）。有人对此有什么想法吗？

我的第二个问题涉及解决上述问题的尝试。我没有使用自己的名为 SHADER 的资源数据类型，而是将着色器导入为 RCDATA，因此我现在可以使用 D3DXCompileShaderFromResource，而不是自己从资源中手动加载着色器文本。然而，我从对此的调用中得到了错误的 HRESULT，但“错误”集合仍然为空。它根本没有调试输出。代码如下所示：

HRESULT result;

result = D3DXCompileShaderFromResource( 0, 
                                        MAKEINTRESOURCE(IDR_SHADERPHONG),
                                        NULL, 
                                        NULL, 
                                        "VERTEXMAIN",
                                        D3DXGetVertexShaderProfile(Window()->GetDevice()),
                                        D3DXSHADER_OPTIMIZATION_LEVEL3,
                                        &MyVertexShaderBuffer,
                                        &errors,
                                        &MyVertexShaderConstants);

HRESULT 为-2005529767，这似乎是“失败”。我在互联网上找不到任何关于它与 D3DXCompileShaderFromResource 相关的含义的参考！

我希望我在 stackoverflow 的聪明朋友可以在这里提供一些帮助：p。谢谢。

---

Answer 1

好的，问题找到了（被同事发现）。加载资源时，我抓取了一个内存块并将其错误地转换为 std::string。也就是说， std::string 将遍历资源寻找空终止符，但资源数据不一定有空终止符（它只是一个文本文件）。然而，它最终会找到一个，可能是在软件不应该使用的内存的某些部分！

因此，要将 char 缓冲区从资源转换为 std::string，应使用以下内容：

return std::string(reinterpret_cast<char const*>(pD), bytes);

而不是 this:

return std::string(pD);

，除非您确定 pD 指向以 null 结尾的字符串。