floating-point

floating-point

文章 0 浏览 8

将非常大的角度缠绕到[0,2*pi]添加了太大的数值错误

Closed. This question is not reproducible or was caused by typos. It is not currently accepting answers. 这个问题是由类错字或无法再现的问题…

奢华的一滴泪 2025-01-26 02:59:11 2 0

浮点数学破裂了吗?

考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么这些不准确发生?…

牵你手 2025-01-25 22:15:27 5 0

Java Inputstream float值太大

我正在努力从Inputstream读取浮动值。 我以前尝试过bigdecimal尝试,但不可能得到正确的数字 问题:我期望v〜0.00-1.50,以后最高55.00 ,而v = 〜0.0…

烟沫凡尘 2025-01-25 20:53:22 1 0

如何检查浮子是阳性的/否定的还是不符合的

如何检查浮子是阳性的/否定的否定或不符合的。 我试图做: int is_denorm(float f) { unsigned int x = *(int*)&f; unsigned expMask = (1 << 8) - 1;…

久而酒知 2025-01-25 17:52:40 2 0

MATLAB中的定点:可以在没有设计师/库的情况下实现吗?

我在Matlab的设计工作,并使用了浮点。要重写FPGA的设计,我需要使用固定点。 在MATLAB许可证中,我没有固定点的设计者或库可以使用函数作为 fi , nu…

陌上青苔 2025-01-25 10:02:34 2 0

浮点数学破裂了吗?

考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么这些不准确发生?…

凌乱心跳 2025-01-25 07:42:27 3 0

Python -valueError:无法将字符串转换为float:&#x27; 52.04121.43433.681035&#x27;

这是我的代码(有点长,可能会简化), hours = float(input("Enter the number of hours worked in a week:")) dep = float(input("Enter the number…

趴在窗边数星星i 2025-01-25 06:12:34 2 0

为什么要解决浮点确定性问题的解决方案?

我希望制作一个确定性的网络游戏,在网上到处都有关于浮点数学如何不确定性的故事,并且通常会在不同的计算机,架构,处理器,浏览器等上给出不同的结…

定格我的天空 2025-01-25 05:53:51 3 0

当比较双打容器时,为什么没有警告 - wfloat -equal?

如果使用GCC或CLANG使用Compiler选项 -wfloat-Equal ,则浮点/双值的平等比较会引起警告。但是,当比较容器(例如 std :: vector 或 std :: tuple )…

维持三分热 2025-01-25 03:40:45 2 0

NVIDIA GPU的OPENCL中浮点值的原子添加?

OPENCL 3.0规格用于浮点值的原子添加的内在/内置,仅用于积分值(在OpenCL 1.x和2.x中似乎也是如此)。然而,cuda,提供了浮点原子现在有一段时间: f…

半葬歌 2025-01-24 21:36:28 2 0

比较2个双打值的正确方法是什么?

这里有很多有关此主题的文章,博士学位出版物,书籍和问题,但我的问题仍然很简单。 在不编写数十个IF的情况下,我们如何改善这一点或解决方法? 假设…

玩心态 2025-01-24 14:22:32 1 0

如何检测非IEEE-754浮子以及如何使用它们?

我正在为基本类型编写类,因此在多个平台和编译器上,代码在逻辑上相同(例如 int_least16_t for int )。娱乐! (我还是学生。) 我读了这个: floa…

揽月 2025-01-24 12:27:01 2 0

为什么IEEE754双精度格式仅准确至15位数字?

我目前正在学习浮点表示。根据此网站,这是此表示形式的可能范围。 -1.79E+308至-2.23E-308、0和2.23E-308至1.79E+308。问题是,我不太了解此范围的含…

爱要勇敢去追 2025-01-24 07:03:08 2 0

为什么我会收到错误:typeerror:typer of float;

我正在尝试编码打印相对和绝对错误的计算器。在算法的最后一步中,我需要创建一个新列表来保留Y的新值,但我会遇到错误: typeError:不能将序列乘以…

江城子 2025-01-24 00:52:15 2 0

浮点字面的最小小数位数的最低数量是多少,以表示尽可能正确的值?

例如,使用IEEE-754 32位二进制浮点,让我们表示 1/3 的值。它不能准确地完成,但是 0x3EAAAAAB 产生的值最接近 1/3 。您可能需要以十进制编写值,然…

北方的韩爷 2025-01-23 20:00:16 2 0
更多

推荐作者

李珊平

文章 0 评论 0

Quxin

文章 0 评论 0

范无咎

文章 0 评论 0

github_ZOJ2N8YxBm

文章 0 评论 0

若言

文章 0 评论 0

南…巷孤猫

文章 0 评论 0

更多

友情链接

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文