openSSL 中的 BN_hex2bn 神奇地出现段错误

Question

大家好，这是我在 stackoverflow 上的第一篇文章，如果有点长，我很抱歉。

我正在尝试为自己的项目构建握手协议，但在服务器将客户端 RSA 公钥转换为 Bignum 时遇到问题。它在我的客户端代码中工作，但是当尝试将客户端公共 RSA 的十六进制值转换为 bignum 时，服务器会出现段错误。

我已经检查过RSA数据之前或之后没有垃圾，并且在网上查看过，但我被卡住了。

标头段：

typedef struct KEYS {  
    RSA *serv;  
    char* serv_pub;  
    int pub_size;  
    RSA *clnt;  
} KEYS;

KEYS keys;

初始化函数：

// Generates and validates the servers key

/* code for generating server RSA left out, it's working */
//Set client exponent
keys.clnt = 0;
keys.clnt = RSA_new();
BN_dec2bn(&keys.clnt->e, RSA_E_S); // RSA_E_S contains the public exponent

问题代码（在 Network::server_handshake 中）：

// *Recieved an encrypted message from the network and decrypt into 'buffer' (1024 byte long)*
cout << "Assigning clients RSA" << endl;
// I have verified that 'buffer' contains the proper key
if (BN_hex2bn(&keys.clnt->n, buffer) < 0) { 
    Error("ERROR reading server RSA");
}
cout << "clients RSA has been assigned" << endl;

程序出现

BN_hex2bn(&keys.clnt->n, buffer)

错误（valgrind 输出）

大小 8 的读取无效 在 0x50DBF9F：BN_hex2bn（在 /usr/lib/libcrypto.so.0.9.8 中） 通过 0x40F23E：网络::server_handshake() (Network.cpp:177) 通过 0x40EF42：网络::startNet() (Network.cpp:126) 通过 0x403C38：主要（server.cpp：51） 地址 0x20 未堆栈、分配或（最近）释放

进程以信号 11 (SIGSEGV) 的默认操作终止 访问不在地址 0x20 处的映射区域内 在 0x50DBF9F：BN_hex2bn（在 /usr/lib/libcrypto.so.0.9.8 中）

我不知道为什么会这样，我在客户端程序中使用完全相同的代码，并且它工作得很好。任何输入都会受到极大的欢迎！

Answer 1

RSA_new() 仅创建 RSA 结构，它不会在该结构内创建任何 bignum 对象，例如 n 和 e 字段。您必须使用 BN_new() 自己创建这些，或者更有可能您需要找到正确的 openssl 函数来生成或读取 RSA 密钥。