ieee-754

ieee-754

文章 0 浏览 7

IEEE754可以正确比较浮点数的大小的范围是多少

我知道可以正确比较的整数范围是 - (2^53-1) to 2^53-1 。 但是,浮点数的范围是多少? // Should the double type conform to this specification?…

烟凡古楼 2025-02-12 06:07:03 2 0

IEEE754规范如何比较两个浮点数之间的尺寸关系?

看来它仅比较前几个重要数字的尺寸关系?如果数字太长,将会出现一些奇怪的现象。 double a = 1.9; double b = 1.8; System.out.println(a > b); // r…

つ可否回来 2025-02-12 03:39:32 2 0

手工降低浮点划分的强度

在本学期我们在计算机科学方面的最后一项任务之一中,我们必须对某些代码片段进行降低强度。他们中的大多数只是直截了当的,尤其是在研究编译器输出时…

百合的盛世恋 2025-02-08 15:35:44 4 0

下水浮点数是否总是四舍五入到零?

假设最小的代表数为0.1。 根据IEEE 754,是否为0.09(下底流量)为0或0.1?…

豆芽 2025-02-07 15:56:47 3 0

是否有“双”,“ k”的值,以便`k * k == 3.0`?

是否有类型 double 的值(IEEE 64位float/binary64), k ,以便 k * k * k == 3.0 ? (当然,非理性的数字是“ 3平方根”) 我尝试过: static cons…

盗琴音 2025-02-04 11:26:16 4 0

为什么C或C++ “ -0”不产生浮点− 0?

我正在尝试收集一些边缘案例以进行浮点算术。问题是,我尝试 printf 没有向我展示我想要的东西: #include #include #include int main() { double x …

旧情勿念 2025-02-04 09:37:53 4 0

IEEE-754 Float64中PI最准确的近似值?

IEEE-754 Float64中最准确的PI近似值是什么? FWIW似乎同时使用JavaScript和PHP使用 3.1415926535897931159979979634685444185161590576171875 ,这可…

任谁 2025-02-01 00:11:27 5 0

在JavaScript中处理四舍五入错误的最佳实践

我在JavaScript中的浮点四舍五入问题。据我所知,JavaScript中的数字是引擎盖下方的IEEE-754浮点(对此没有任何选择),因此由于舍入而言,不允许所有…

蓝眸 2025-01-31 16:16:17 4 0

如何将双重转换为IEEE754格式?

该函数应在IEEE754格式中返回双重类型编号的字符串表示形式 public class GetIEEE754FormatAdapter : ITransformer { public string Transform(double…

蒲公英的约定 2025-01-31 13:00:55 4 0

我的Postgres实例是否支持IEEE 754双精度浮子?

根据docs Postgres 类型实现IEEE 754:“数据类型真实和双重精度是不精确的,可变精确的数字类型。在当前所有支持的平台上,这些类型是IEEE Standard …

挖鼻大婶 2025-01-30 10:38:15 4 0

用IEEEE754代表数字,圆形到最近

我目前正在学习IEEE754标准和舍入,我有一个练习,其中 IEEE754中的添加-325.875至0.546875,但是有3位专用于Mantissa而不是23位。 我遇到了很多麻烦…

宛菡 2025-01-27 09:54:20 4 0

为什么IEEE754双精度格式仅准确至15位数字?

我目前正在学习浮点表示。根据此网站,这是此表示形式的可能范围。 -1.79E+308至-2.23E-308、0和2.23E-308至1.79E+308。问题是,我不太了解此范围的含…

爱要勇敢去追 2025-01-24 07:03:08 3 0

浮点字面的最小小数位数的最低数量是多少,以表示尽可能正确的值?

例如,使用IEEE-754 32位二进制浮点,让我们表示 1/3 的值。它不能准确地完成,但是 0x3EAAAAAB 产生的值最接近 1/3 。您可能需要以十进制编写值,然…

北方的韩爷 2025-01-23 20:00:16 4 0

将十六进制的IEEEE754转换为浮动在JavaScript中

我想将十六进制转换为float 32。我在下面提到的代码使用了,但是当我尝试将 0x4145851f 转换为float32时,它并没有帮助我,它是 12.345000267028809 …

小情绪 2025-01-23 06:50:37 2 0

为什么0.1的浮点表示为1?

我一直在编写一个十进制到单精度 IEEE754 浮点转换器,我发现与 0.1 和 0.2 等数字有一些差异 让我们取 0.1,第一步是将其转换为简单的二进制表示形式…

电影里的梦 2025-01-21 03:17:45 5 0
更多

推荐作者

达拉崩吧

文章 0 评论 0

PANGOO

文章 0 评论 0

kkgtx

文章 0 评论 0

WordPress小学生

文章 0 评论 0

酷炫老祖宗

文章 0 评论 0

硪扪都還晓

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文