仅在 Vista/Windows Server 2008 上出现 P/Invoke 错误

Question

我的代码通过 P/Invoke 使用 SSPI dll (security.dll) 中的方法，该代码在每个测试平台（Windows XP、Windows Server 2003 x86 和 x64）上都能完美运行，但是我们正在迁移到Windows Server 2008，并发现 P/Invoke 调用导致进程崩溃。

我整理了以下重现代码：

using System;
using System.Runtime.InteropServices;

namespace TestPInvoke
{
    class Program
    {
        static void Main(string[] args)
        {
            try
            {
                // The following code works on all platforms tested (Windows Server 2003 x86/x64, Windows Server 2008 x64, Windows XP, Windows Vista)
                var table1 = (SecurityFunctionTable)Marshal.PtrToStructure(InitReturningPtr(), typeof(SecurityFunctionTable));
                Console.WriteLine(table1.dwVersion);
                Console.WriteLine(table1.EnumerateSecurityPackages.ToInt64().ToString("x16"));
                Console.ReadLine();

                // This call crashes only on Windows Server 2008 and Windows Vista (but works fine on XP and 2K3)
                var table2 = InitReturningClass();
                Console.WriteLine(table2.dwVersion);
                Console.WriteLine(table2.EnumerateSecurityPackages.ToInt64().ToString("x16"));
            }
            catch (Exception e)
            {
                Console.WriteLine(e.Message);
                Console.WriteLine(e.StackTrace);
            }
            Console.ReadLine();
        }

        [DllImport("security.dll", EntryPoint = "InitSecurityInterfaceW")]
        public static extern IntPtr InitReturningPtr();

        [DllImport("security.dll", EntryPoint = "InitSecurityInterfaceW")]
        public static extern SecurityFunctionTable InitReturningClass();

        [StructLayout(LayoutKind.Sequential)]
        public class SecurityFunctionTable
        {
            public uint dwVersion;
            public IntPtr EnumerateSecurityPackages;
            public IntPtr QueryCredentialsAttributes;
            // ...omitted for brevity
        }
    }
}

问题也不是孤立于这个特定的 DLL 或函数，而是我尝试过的任何 P/Invoke 调用，其中本机函数的返回值是指向隐式编组的结构的指针进入一个班级展示这个问题。

由于我有一个功能解决方法（使用 Marshal.PtrToStructure），这不是一个主要问题，但我很好奇为什么它在 XP 和 2k3 上没有（明显的）问题，但在 Vista 和 2k8 上却没有问题，以及是否有任何修复类返回方法以避免相当丑陋的显式编组的方法。

Answer 1

使用 Marshal.PtrToStructure 是正确的做法。事实上，这在 XP/Server 2003 上运行纯属巧合，因为代码总是有错误。

Answer 2

编辑：我没有意识到这是一个API函数。您不能声明返回结构的函数。 P/Invoke 编组器将使用 CoTaskMemFree() 释放该结构的内存。不起作用，它不是用 CoTaskMemAlloc() 分配的。

XP和2003中的堆管理器是宽容的，它只是忽略错误的释放请求。但不是 Vista 和 2008 中的那个，它会轰炸程序，因为它显然不正确地使用内存。重要的是，这些内存恶作剧是安全问题。

是的，通过将返回类型声明为 IntPtr，可以避免 P/Invoke 编组器释放内存。这是合适的，API 函数确实返回一个指针，而不是一个结构。需要 Marshal.PtrToStructure 将指向的结构编组为托管结构。

安全API一般都是这样麻烦的。安全 API 返回指向内部内核安全结构的指针的概念确实有点令人难以置信......