运行时检查失败 #0 来自 C dll 的 vb.net 回调

Question

我正在用 VB.Net 编写 Add-inn 应用程序 A，用 C 语言编写 DLL B。 应用程序A将回调方法传递给dll B。 当某个事件发生时，dll 会调用 A 的回调。 整体在我的 PC 上工作正常，但当我将其移动到笔记本时，出现错误：

运行时检查失败 #0 - ESP 的值未在函数调用中正确保存。 这通常是用一种调用约定声明的函数和用另一种调用约定声明的函数指针调用的结果。

这是 C 代码的一部分：

typedef void (__cdecl * OFFICE_PTR)();
void  TAPIClient::tapiCallBack(
DWORD hDevice,
DWORD dwMessage,
DWORD dwInstance,
DWORD dwParam1,
DWORD dwParam2,
DWORD dwParam3){
switch (dwMessage)
{
    case LINE_CALLSTATE:
        switch (dwParam1)
        {
            case LINECALLSTATE_OFFERING:
                                    if(dwInstance!=NULL)
                {
                    try
                    {   
                        OFFICE_PTR vbFunc =(OFFICE_PTR)dwInstance;
                        vbFunc( );//Critical moment
                    }
                    catch(...)
                    {
                        MessageBox (NULL, L"( (OFFICE_PTR)dwInstance )(&sCallNr)",L"ERROR",MB_OK);
                    }
                }
            break;
        };
    break;
}

}

其中 dwInstance 是应用程序的地址 回调方法

这是一部分VB.Net 代码：

Public Class TapiPlugin

Public Delegate Sub P_Fun()

Private Declare Function startSpy _
    Lib "TAPIClient.dll" _
    (ByVal pFun As P_Fun) As IntPtr

Public Shared Sub simpleTest()
    MsgBox("Plugin sub simpleTest")
End Sub

Public Sub onStart()
    Dim pBSTR As IntPtr
    pBSTR = startSpy(AddressOf simpleTest)
    MsgBox(Marshal.PtrToStringAuto(pBSTR))
    Marshal.FreeBSTR(pBSTR)
End Sub

End Class

当我尝试调用“vbFunc( )”时发生错误。 我将不胜感激任何帮助。 ：D

Answer 1

如果调用约定是cdecl，那么您需要像这样声明您的委托：

<UnmanagedFunctionPointer(CallingConvention.Cdecl)>
Public Delegate Sub P_Fun()

您只能在.NET 2.0及之后的版本中执行此操作，因为在此之前没有引入该属性（并且互操作层是在此之前没有改变以承认这一点）。

如果调用约定确实是 st​​dcall，那么委托可以保持原样。 你说它是stdcall，但我有疑问，因为异常明确地告诉你调用约定可能不匹配。

Answer 2

两台计算机的指针大小可能不同吗？ 也许一台是 64 位机器，另一台只有 32 位？

typedef void (__cdecl * OFFICE_PTR)();
void  TAPIClient::tapiCallBack(
DWORD hDevice,
DWORD dwMessage,
DWORD dwInstance,
...){
...
        OFFICE_PTR vbFunc =(OFFICE_PTR)dwInstance;
        vbFunc( );//Critical moment

DWORD 类型对于传递指针类型实际上并不有效。 我猜你应该使用 INT_PTR 。

Answer 3

我认为这不是检查它的理由，我将回调作为 OFFICE_PTR 类型的全局指针传递，并且得到了相同的结果。 在 PC 上它工作正常，在笔记本上它崩溃了:(

必须为我写的 def 看起来像这样的错误道歉：

typedef void (__cdecl * OFFICE_PTR)();

但实际上它看起来像

typedef void (__stdcall * OFFICE_PTR)();