ieee-754

ieee-754

文章 0 浏览 4

python:解压IBM 32位浮点

我正在用 python 读取一个二进制文件,如下所示: from struct import unpack ns = 1000 f = open("binary_file", 'rb') while True: data = f.read(n…

零崎曲识 2024-11-30 14:49:16 0 0

读取 Lightwave LWO 双星,UV 问题

好的,所以我正在尝试制作 CSHARP Lightwave 3D 模型转换器,将我的 LWO 转换为 Javascript 对象。到目前为止,我已经让这个程序正常运行了,我很高兴…

轮廓§ 2024-11-29 11:04:32 3 0

IEEE 754 Float 调试 - 从内存小端到实际浮点数

我正在使用 VS2008 测试 IEEE 754 浮动格式,使用下面的示例: int main(int argc, char *argv[]) { float i = 0.15625; } 我将 &i 放入 VS2008 手表…

玩心态 2024-11-28 21:30:08 2 0

80 位浮点数和次正规数

我正在尝试将 80 位扩展精度浮点数(在缓冲区中)转换为双精度。 该缓冲区基本上包含 x87 寄存器的内容。 这个问题帮助了我开始吧,因为我不太熟悉 IE…

忆梦 2024-11-28 15:08:17 1 0

在 Scala 中,为什么模式匹配没有选取 NaN?

我的方法如下 def myMethod(myDouble: Double): Double = myDouble match { case Double.NaN => ... case _ => ... } IntelliJ 调试器显示 NaN,但这…

是伱的 2024-11-27 13:38:41 3 0

从 IEEE 754-2008 十进制浮点数据转换为二进制浮点格式

我在磁盘上有一个以 IEEE 754-2008 格式存储的二进制数据,它是 32 位浮点数,以 10 为底指数(如果我没猜错的话:http://en.wikipedia.org/wiki/Deci…

独自唱情﹋歌 2024-11-26 18:24:58 1 0

是 128 位“长浮点”吗?有用?

Closed. This question is opinion-based. It is not currently accepting answers. 想要改进这个问题?更新问题,以便可以通过编辑这篇文章用事实和…

泪冰清 2024-11-26 13:19:54 1 0

没有扩展精度 FPU 的数值陷阱

Monniaux 的优秀文章,“陷阱验证浮点算术”,给出了意外数值行为的示例。然而,大多数示例依赖于扩展精度 FPU 或扩展精度运算(例如乘法累加)。除了…

不甘平庸 2024-11-26 06:00:40 3 0

C# 中的浮点数学一致吗?可以吗?

不,这不是另一个“为什么是 (1/3.0)*3 != 1”问题。 我最近读了很多关于浮点的文章;具体来说,在不同的架构或优化设置上相同的计算可能会产生不同的…

等待圉鍢 2024-11-24 03:25:15 1 0

非常大数的正弦标准

我正在 TeX 中编写一个(几乎)符合 IEEE 854 的浮点实现(仅支持 32 位整数)。本标准仅规定了+、-、*、/、比较、余数、的结果>sqrt:对于这些操作,…

北方的韩爷 2024-11-23 14:58:31 1 0

IBM 到 IEEE 浮点转换

java中是否有任何标准方法可以将IBM 370(以字节形式)转换为IEEE格式。任何转换算法都会有所帮助.. 我尝试编写java代码..但我不明白我哪里出错了。当…

满身野味 2024-11-16 14:25:57 2 0

Java - 将十六进制转换为 IEEE-754 64 位浮点 - 双精度

我正在尝试将以下十六进制字符串:“41630D54FFF68872”转换为 9988776.0 (float-64)。 对于单精度 float-32,我会这样做: int intBits = Long.value…

无需解释 2024-11-16 11:11:52 2 0

浮点精度位

在此 wiki 文章 中,它显示了 23 位精度、8 位指数和 1 位符号 浮点数类型中隐藏的第 24 位(使 7 个有效数字为 (23+1))在哪里?…

像极了他 2024-11-14 16:38:34 2 0

使用python从二进制文件中读取32位签名的ieee 754浮点数?

我有一个二进制文件,它是一个简单的带符号的 32 位 ieee754 浮点数列表。它们没有被任何东西分开,只是一个接一个地出现,直到 EOF。 我如何从该文件…

盗琴音 2024-11-14 10:38:45 2 0

C == 运算符如何判断两个浮点值是否相等?

今天,我正在追查为什么我的程序在我编写的一些代码中遇到了一些意外的校验和不匹配错误,这些代码以包含 32 位校验和值(计算得出的格式)的格式序列…

寂寞美少年 2024-11-13 11:41:41 2 0
更多

推荐作者

胡图图

文章 0 评论 0

zt006

文章 0 评论 0

z祗昰~

文章 0 评论 0

冰葑

文章 0 评论 0

野の

文章 0 评论 0

天空

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文