ieee-754

ieee-754

文章 0 浏览 2

CLR JIT 优化违反因果关系?

我正在为一位同事编写一个有启发性的示例,向他展示为什么测试浮点数是否相等通常是一个坏主意。我使用的示例是添加 0.1 十次,并与 1.0(我在数字入…

才能让你更想念 2024-08-20 16:23:43 7 0

有没有开源的c/c++ IEEE-754 操作的实现?

Closed. This question is seeking recommendations for software libraries, tutorials, tools, books, or other off-site resources. It does not …

記柔刀 2024-08-20 00:36:40 2 0

64 位浮点数在所有现代 PC 上的表现是否相同?

我想知道我是否可以假设在任何现代 PC 和最常见的编程语言中对相同 64 位浮点数进行相同的操作会给出完全相同的结果? (C++、Java、C# 等)。我们可…

眼藏柔 2024-08-19 13:16:07 2 0

将 float 转换为 bigint (又名获取二进制指数和尾数的便携式方法)

在 C++ 中,我有一个 bigint 类,可以保存任意大小的整数。 我想将大浮点数或双精度数转换为 bigint。 我有一个工作方法,但是有点麻烦。我使用 IEEE …

ι不睡觉的鱼゛ 2024-08-19 11:04:46 3 0

其他 NaN 值是什么?

java.lang 的文档。 Double.NaN 说它是 保存双精度型非数字 (NaN) 值的常量。它相当于 Double.longBitsToDouble(0x7ff8000000000000L) 返回的值。 这…

双手揣兜 2024-08-19 10:52:58 2 0

浮点运算中的清零行为

然而,据我所知,IEEE 754 没有提到用清零模式来处理非规范化数字&lt /a&gt 更快,某些体系结构提供此模式(例如 http://docs.sun .com/source/806-35…

剧终人散尽 2024-08-18 13:10:54 4 0

ToString(“f2”) 中的 .NET 舍入错误

您好,我有以下 C# 代码: float n = 2.99499989f MessageBox.Show("n = " + n.ToString("f2", CultureInfo.InvariantCulture)) 以及 C++ 代码: floa…

猥琐帝 2024-08-18 09:20:31 2 0

如何从二进制数据读取 64 位 IEEE 标准 754 双精度数字?

我有一个由 64 位 IEEE 标准 754 浮点数组成的数据流。在使用 C# 时,我如何将它们读取为双精度?有没有办法将 long/ulong 转换为 double ?…

深者入戏 2024-08-18 03:30:32 2 0

IEEE - 754 - 查找符号位、指数、分形、归一化等

我将 8 位十六进制数作为 IEEE 754 位浮点数 我想打印有关该数字的信息(signbit、expbits、fractbits、标准化、 非规格化、无穷大、零、NAN)浮点应…

猥琐帝 2024-08-17 16:02:23 2 0

将 double 转换为 float 而不依赖 FPU 舍入模式

有没有人有方便的代码片段,可以将 IEEE 754 double 转换为紧邻的下级(resp.superior)float,无需更改或假设有关 FPU 的任何内容当前舍入模式? 注…

囍孤女 2024-08-17 03:10:53 3 0

可以存储在 double 中的最大整数

可以以 IEEE 754 双精度类型存储且不损失精度的最大“非浮动”整数是多少? 换句话说,将返回以下代码片段: UInt64 i = 0 Double d = 0 while (i == …

无可置疑 2024-08-13 07:24:27 4 0

ldexp 和 frexp 在 python 中如何工作?

python frexp 和 ldexp 函数将浮点数拆分为尾数和指数。 有谁知道这个过程是否公开了实际的浮点结构,或者是否需要 python 进行昂贵的对数调用?…

薄荷港 2024-08-12 18:35:00 7 0

java floats 可以按字节表示排序吗?

我在 Hadoop 中工作,我需要提供一个比较器来将对象排序为原始网络顺序字节数组。对于我来说,使用整数很容易做到这一点——我只需按顺序比较每个字节…

Smile简单爱 2024-08-12 04:53:08 3 0

查找具有相同内部表示的 float/double 的最小值/最大值

刷新浮点(也PDF),IEEE-754 并参与 在关于转换为字符串时浮点舍入的讨论中,让我思考:如何获得给定浮点数的最大值和最小值,其二进制表示是相等的。…

装迷糊 2024-08-09 15:16:42 4 0

iPhone 上的双精度与浮动

我刚刚听说 iPhone 本身无法进行双倍操作,从而使它们比常规浮动慢得多。 这是真的吗?证据? 我对这个问题很感兴趣,因为我的程序需要高精度计算,而…

焚却相思 2024-08-09 02:10:54 3 0
更多

推荐作者

lioqio

文章 0 评论 0

Single

文章 0 评论 0

禾厶谷欠

文章 0 评论 0

alipaysp_2zg8elfGgC

文章 0 评论 0

qq_N6d4X7

文章 0 评论 0

放低过去

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文