floating-point

floating-point

文章 0 浏览 8

在用浮点分开时如何保持小数的准确性

我正在从事一个项目,需要将一个非常大的64位长值分开。我绝对不在乎整个数字结果,而只关心小数价值。问题在于,当将大长除以一个小的64位 double 浮…

欢烬 2025-02-13 23:45:34 0 0

64位浮点数学在JavaScript中,为什么在这种情况下除乘以比乘法更好

这不是关于浮点如何工作的问题。这也是为什么19.95 * 0.1产生19.9000000004的问题。我已经得到了浮点数学并不是一个完美的演示文稿。问题是要问专家他…

花想c 2025-02-13 19:30:26 0 0

float编号以Std中的字符串转换实现

我面临一个好奇的问题。查看此简单的代码: int main(int argc, char **argv) { char buf[1000]; snprintf_l(buf, sizeof(buf), _LIBCPP_GET_C_LOCALE…

梦里南柯 2025-02-13 17:19:58 0 0

浮点数学破裂了吗?

考虑以下代码: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 为什么这些不准确发生?…

俏︾媚 2025-02-13 08:59:08 0 0

如何用C#中的浮子计算

我想以Unity进行编程地形生成器,并为Perlin Noise Terrain Generator提供了一些工作代码。我目前正在使用Unity(使用C#),我无法弄清楚如何将地形…

许仙没带伞 2025-02-13 04:26:38 0 0

Google表小于或平等(< =)提供错误的结果

公式 0< =(1.36*100/1.36)-100 在期望为true时返回false。 但是 0< =(1.26*100/1.26)-100 返回正确的结果。 为什么?…

别忘他 2025-02-13 04:17:16 1 0

为什么某些浮点计算会以其操作方式转动? (例如123456789f+ 1 = 123456792)

我试图更好地了解浮点算术,出现和累积的错误,以及为什么结果表现出它们的方式。这是我目前正在处理的3个示例: 1。) 0.1 +0.1 +0.1 +0.1 +0.1 +0.1…

硪扪都還晓 2025-02-12 21:33:46 1 0

我在Visual Studio,C#中创建了一个部门程序,但似乎无法用小数数字来回答

这是我程序的代码: `Console.WriteLine("This is a division app"); Console.Write("Please input a whole number(maximum is 2,147,483,647): "); i…

吹泡泡o 2025-02-12 21:20:41 0 0

为什么1E100不能完全代表64位浮动?

有人告诉我,1E100并不能完全表示为64位浮点数。在64位浮点数的情况下,我们可以在显着范围内拥有16个重要数字,并操纵指数(大约10^308)。因此,由…

仅此而已 2025-02-12 12:59:04 1 0

_tkinter.tclerror:预期的浮点数,但获得了“” (当我的变量变为空时)

这是我第一次寻求帮助。我不是真正的专家,所以我希望这不是一个新的问题(对不起,如果是)。 尝试执行一个简单任务(尝试获取变量的Lenght)的程序 …

罪歌 2025-02-12 10:44:01 0 0

我如何使LCM与浮动数一起使用?

Newbie到Python ... 目前,我正在编写一个用于物理计算器的代码,尤其是镜像,镜像的公式为 1/s + 1/s'= 1/f 。 例如,我想将数字输入 s'为3,而 f 为…

岁吢 2025-02-12 08:25:34 1 0

错误的圆形计算和不完整发送键(python selenium)

很抱歉英语或不良解释。 (Noobie) 脚本应将一个值舍入1小数点并进行一些计算,然后将其发送到Selenium网站上的输入框。 amount_value = round(equit…

猥琐帝 2025-02-12 05:03:21 1 0

为什么2.0 == 2在python中是true,即使2.0是float,而2是int

为什么 2.0 == 2 即使 2.0 是 float 和 2 is int int ? print(2.0==2) 输出: True …

沉鱼一梦 2025-02-11 13:21:26 2 0

将十进制转换为具有固定数量字符的字符串

令人惊讶的是,我似乎找不到以前回答的这个特定问题,尽管这似乎是非常标准的。 我希望能够给定长度 l ,将1e-100和1e+100(非包含)之间的任何正小数…

云醉月微眠 2025-02-11 08:17:52 1 0

gtk fprint(%e)带有逗号而不是点的浮子

因此,我正在创建一个小太阳系仿真,并在C中完成演算。完成计算后,我将它们放入JSON文件中,该文件将通过网页读取。 我创建了一个函数,将轨迹的坐标…

金橙橙 2025-02-11 07:30:06 1 0
更多

推荐作者

mb_XvqQsWhl

文章 0 评论 0

我不在是我

文章 0 评论 0

依 靠

文章 0 评论 0

L.W.

文章 0 评论 0

暗里之光

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文