C++从 C++ 调用的 DLL控制台应用程序工作，从 C# 控制台应用程序调用有堆栈溢出

Question

我收到了一些用于另一个项目的 C/C++ 代码。我将其放入 DLL 中，然后从 C++ 测试工具中调用该 DLL。它工作得很好，并且与代码只是函数调用时的结果相匹配。

不过，我随后尝试让 DLL 在 C# 应用程序中运行。我转换了测试工具，并进行了 DLL 调用，但收到了堆栈溢出异常。

在 C++ 中，我添加：

 #include "proxy_rec_02.h"  
 #pragma comment(lib,"proxy_rec_02.lib")  

并像这样调用函数：

 proxy_rec_main(simtime,mx$gl,mz$gl,ry,start_dig,blytarg_on,blytarg,spread_on,last_call,outputs);

其中标头包含：

void DLL_EXPORT proxy_rec_main(double simtime, double mx$gl, double mz$gl, double ry, int start_dig,  
                               int blytarg_on, double blytarg, int spread_on, int last_call, double *outputs);

在 C# 中，我使用：

using System.Runtime.InteropServices;

并

[DllImport("proxy_rec_02.dll")]
unsafe static extern void proxy_rec_main(double simtime, double mxSgl, double mzSgl, double ry, int start_dig,        
                                  int blytarg_on, double blytarg, int spread_on, int last_call, ref double[] outputs);

使用这样的函数调用：

proxy_rec_main(simtime,mxSgl,mzSgl,ry,start_dig,blytarg_on,blytarg,spread_on,last_call,ref outputs);

DLL 函数在 for 循环中被多次调用。 C++ 代码运行得很好。 C# 代码引发堆栈溢出错误。我向 proxy_rec_main 函数添加了一些调试状态维护，它似乎在函数返回之前命中了每个语句。但它似乎在函数返回时抛出错误。任何见解都将受到欢迎。

谢谢。

Answer 1

[DllImport] 声明中缺少 CallingConvention 属性。没有迹象表明您在 C 声明中使用 __stdcall，因此可能需要 CallingConvention.Cdecl。这确实会导致 SO，堆栈没有被清理。

Debug + Windows + Registers，观察调用前后ESP寄存器的值，应该是相同的。如果您禁用了 PInvokeStackImbalance 托管调试器警告，请务必将其重新打开。忽略这个警告并不是一个好主意。

并调试本机代码，验证传递的参数值。有如此多的争论，其中一个的一个糟糕的声明就足以让他们搬起石头砸自己的脚。

Answer 2

ref 双数组似乎有问题，
将 [MarshalAs] 添加到其中并传递 IntPtr，而不是双精度数组。

.net 数组不是指针，不像 C++ 中的指针。

将该 C# 方法标记为私有，
使用 Marshal.Copy 将返回的指针传输到 .net 数组的公共方法进行包装。

在 .net 中分配时传输数组的示例：

[DllImport(EntryPoint="ExternalMethod"]
private static void ExternalMethodInvoke(
    [MarshalAs(UnmanagedType.SysInt), In] IntPtr);

public void ManagedWrapper(ref double[] array)
{
    IntPtr unmanagedMem = Marshal.AllocHGlobal(1000);
    Marshal.Copy(array, unmanagedMem, 0, 1000);
    ExternalMethodInvoke(unmanagedMem); // use try finally for freeing
    Marshal.Copy(unmanagedMem, array, 1, 1000);
    Marshal.FreeHGlobal(unmanagedMem);
}

在本机中分配时传输数组的示例：

[DllImport(EntryPoint="ExternalMethod"]
private static void ExternalMethodInvoke(
    [MarshalAs(UnmanagedType.SysInt), Out] out IntPtr);

[DllImport(EntryPoint="ExternalDeleteArray"]
private static void ExternalDeleteArrayInvoke(
    [MarshalAs(UnmanagedType.SysInt), Out] out IntPtr);

public void ManagedWrapper(ref double[] array)
{
    IntPtr unmanagedMem;
    ExternalMethodInvoke(out unmanagedMem); // use try finally for freeing
    Marshal.Copy(unmanagedMem, array, 1, 1000);
    ExternalDeleteArrayInvoke(unmanagedMem);
}

如果 c# 端分配数组，请不要忘记在 c# 中分配和取消分配。
（使用 marshal 的 (de)allocate h 全局方法。）

在 C++ 分配中，调用 C++ 方法来取消分配。

Answer 3

假设胶水代码是正确的，可能只是 DLL 函数占用了大量堆栈。我自己也遇到过类似的情况，结果发现C++堆栈上分配了一些非常大的对象。当从本机代码调用时，在调用之前仅使用了一点堆栈，因此堆栈上有足够的剩余空间。当从托管代码调用时，大量堆栈已被消耗，因此没有足够的空间。如果您查看导致溢出的 C++ 函数，您可能会发现它正在尝试将一个大对象放入堆栈中。