从 C# 到 C++ 的多个函数调用非托管代码导致 AccessViolationException

Question

我已在 C# 程序中声明了一个 DLL 导入，如下所示：

[DllImport("C:\\c_keycode.dll", EntryPoint = "generateKeyCode", 
           CallingConvention = CallingConvention.Cdecl)]
static extern IntPtr generateKeyCode(char[] serial, char[] option, char c_type);

它引用了 DLL 内部的函数 generateKeyCode()。

下面是导致错误的代码（使用断点）：

const char* generateKeyCode(char serial[], 
                 char option[], 
                 char c_type)
{
returnBufferString = "";
SHA1_CTX context;
int optionLength = 0;
#ifdef WIN32
unsigned char buffer[16384] = {0};
#else
unsigned char buffer[256] = {0}; 

#endif
//char output[80];
char keycode[OPTION_KEY_LENGTH+1]        = "";
int digest_array_size = 10; //default value for digest array size
unsigned char digest[20] = {0};
char optx[24] = {0};
char c_type_upper;
// Combine serial # and Option or Version number

char str1[30] = {0};
int i;
int size = 0;
int pos = 0;


...
...
}

基本上，我导入了这个 DLL，这样我就可以传递函数参数，它可以执行其算法并简单地返回结果。我使用了这个封送拆收器功能...

public static string genKeyCode_marshal(string serial, string option, char type)
{
    return Marshal.PtrToStringAnsi(generateKeyCode(serial.ToCharArray(), 
           option.ToCharArray(), type));
}

...所以我可以正确进行调用。在我的 C++ 头文件内部，我定义了一个字符串，如所示，这对于回答此问题很有帮助 问题（它是 C/C++ 函数顶部的 returnBufferString 变量）。

当我使用 NumericUpDown 控件以 0.1 的增量从 1.0 到 9.9（每次向上或向下伴随另一个函数调用）时，我多次调用此函数，然后再次向下。然而，每次我尝试这样做时，程序都会在看似设定数量的函数调用后卡住（如果我只是直接上下移动，则在返回的途中停止在 1.9 处，或者如果我稍微上下交替，则在返回时停止在 1.9 处） 。

请注意，它有效并为我提供了我想要的值，没有任何差异。

我将缓冲区大小更改为较小的数字（5012），当我尝试运行该程序时，在第一个函数调用时它抛出了 AccessViolationException。然而，将缓冲区大小加倍到原始缓冲区大小的两倍 (32768) 与原始缓冲区大小相比没有任何效果 - 从 1.0 直接上升到 9.9，然后再次下降，它在 1.9 处停止并抛出异常。

编辑：默认是 ANSI，所以它是 ANSI。那里没有问题。这是内存分配问题吗？

Answer 1

我建议尝试以下操作：

[DllImport("C:\\c_keycode.dll", EntryPoint = "generateKeyCode", 
       CallingConvention = CallingConvention.Cdecl, CharSet = CharSet.Ansi)]
static extern IntPtr generateKeyCode(string serial, string option, char c_type);

注意 DllImport 属性的新 CharSet 字段。

下一个想法是显式使用 MarshalAs 属性：

[DllImport("C:\\c_keycode.dll", EntryPoint = "generateKeyCode", 
       CallingConvention = CallingConvention.Cdecl, CharSet = CharSet.Auto)]
static extern IntPtr generateKeyCode([MarshalAs(UnmanagedType.LPTStr)] string serial, [MarshalAs(UnmanagedType.LPTStr)] string option, char c_type);

Answer 2

我知道这可能不能令人满意，但是一旦我删除了用于从 C/C++ DLL 中调试的输出重定向，问题就停止了。现在一切正常，所以我想这基本上等同于回答我自己的问题。感谢大家的回复。