为 C# P/Invoke 调用 C++ 获取正确参数时出现问题动态链接库

Question

尝试从 Oracle 的 Outside In API 互操作功能。 具有以下功能：

SCCERR EXOpenExport(VTHDOC hDoc, VTDWORD dwOutputId, VTDWORD dwSpecType, 
                    VTLPVOID pSpec, VTDWORD dwFlags, VTSYSPARAM dwReserved,
                    VTLPVOID pCallbackFunc, VTSYSPARAM dwCallbackData, VTLPHEXPORT phExport);

从头文件中我将参数减少为：

#define VTVOID void
typedef VTSYSPARAM VTHDOC, VTLPHDOC *;
typedef DWORD_PTR VTSYSPARAM;
typedef unsigned long DWORD_PTR;
typedef unsigned long VTDWORD;
typedef VTVOID* VTLPVOID;
typedef VTHDOC VTHEXPORT, *VTLPEXPORT;

这些用于 32 位窗口。

浏览头文件、示例程序和文档，我发现：

1. pSpec 可能是指向缓冲区或 NULL 的指针，因此我将其设置为 >IntPtr.Zero（文档）。
2. 根据文档“必须由开发人员将其设置为 0”，dwFlags 和 dwReserved 。
3. 如果我不想处理回调，则可以将 pCallbackFunc 设置为 NULL。
4. 最后两个基于我编写的使用 [StructLayout(LayoutKind.Sequential)] 的 C# 包装器的结构。然后实例化并生成参数，首先使用 Marshal.AllocHGlobal(Marshal.SizeOf(instance)) 创建一个 IntPtr，然后获取作为传递的地址值uint 用于 dwCallbackData，IntPtr 用于 phExport。

最终的参数列表如下：

1. phDoc 作为一个 IntPtr，由之前调用的 DAOpenDocument 函数加载了地址。
2. dwOutputId 作为 uint 设置为 1535，表示 FI_JPEGFIF
3. dwSpecType 作为 int 设置为 2，表示 IOTYPE_ANSIPATH
4. pSpec 作为 IntPtr.Zero，输出将写入其中
5. dwFlags as uint 设置为 0 按照指示
6. dwReserved as uint 设置为 >0 按照指示将
7. pCallbackFunc 作为 IntPtr 设置为 NULL，因为我会将结果
8. dwCallBackData 处理为 < code>uint struct phExport 的缓冲区地址
9. 作为 IntPtr 到另一个 struct buffer

仍然从 API 收到未定义的错误。这意味着调用返回一个未在任何头文件中定义的 961。过去，当我选择的参数类型不正确时，我就会遇到这种情况。

我开始使用 Interop Assistant，它有助于了解有多少参数类型被翻译。然而，它受到我从头文件中收集正确的本机类型的能力的限制。例如，前面函数中使用的 hDoc 参数被定义为非文件系统句柄，因此尝试使用 Marshal 创建句柄，然后使用 IntPtr ，最后结果是一个int（实际上是这里用的&phDoc）。

那么，除了反复试验之外，还有更科学的方法吗？

吉姆

Answer 1

您的定义：

typedef unsigned long DWORD_PTR;

不正确 - DWORD_PTR 定义为：

typedef ULONG_PTR DWORD_PTR;

反过来又定义为：

typedef unsigned __int3264 ULONG_PTR;

属性 __int3264 记录在 这里，我复制了最重要的一点：

关键字__int3264指定具有以下属性的整型：

• 在 32 位平台上是 32 位
• 在 64 位平台上是 64 位
• 它是 32 位的，以实现向后兼容性。它在发送端被截断，并在接收端被适当扩展（有符号或无符号）。

当您编组 C“类型”（例如 DWORD_PTR）时，其大小取决于平台指针大小，这通常是操作系统参数的情况（例如 LPARAM、 WPARAM、LRESULT、SIZE_T 等）（名称 VTSYSPARAM 似乎表明了这一点），您应该使用 IntPtr code>，而不是 uint。

基本上：

dwReserved as uint 按照指示设置为 0

dwCallBackData 作为 uint 结构体缓冲区的地址

应该是：

dwReserved as IntPtr 按照指示设置为 IntPtr.Zero

dwCallBackData 作为 IntPtr 结构体缓冲区的地址

然后它应该可以工作，如果没有，您需要确保在以下情况下没有犯类似的错误整理必要的结构。