python调用c++ .so库返回double时为0
如图,c++的LCS函数声明为double LCS(...
理论上不是应该返回0.6666667,但是返回的为0.0
这是因为什么??怎么解决??
望大佬指点一二
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
如图,c++的LCS函数声明为double LCS(...
理论上不是应该返回0.6666667,但是返回的为0.0
这是因为什么??怎么解决??
望大佬指点一二
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
接受
或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
发布评论
评论(2)
调用c函数默认返回 c int 类型。 需要重新设置restype。
foo = lib.LCS
foo.restype = c_double
print(foo(参数))
望采纳~
怎么又是这种问题。因为你没有设置返回值类型为 ctypes.c_double。别懒,设置正确的参数和返回值类型,不然各种问题。如果你非要懒,可以考虑使用 cffi。
ctypes 默认返回类型是整型,存于通用寄存器。而 double 类型的返回值是存于 %xmm0 这种寄存器的。Python 默认去读 %eax 来取得它以为的整型返回值,谁知道你的结果在 %xmm0 里啊。(适用于 x86_64)