rounding

rounding

文章 0 浏览 6

写入 RREF 时处理舍入误差

我正在尝试编写一个程序,在给定矩阵时解决简化的行梯形形式。基本上我正在做的就是编写一个解决方程组的程序。然而,由于有时我需要进行除法以产生重…

请帮我爱他 2024-12-13 17:25:11 3 0

按照我想要的格式设置数字

我有号码:a = 3.860575156847749e+003;,我会以正常方式显示它。所以我写b = sprintf('%0.1f' a);。如果我打印 b 我将得到:3860.6。这是完美的。事…

浅暮の光 2024-12-13 14:10:31 4 0

Math.Round() 似乎不一致

可能的重复: .Net 圆形错误 在 C# 中:Math.Round(2.5) 结果是 2(而不是 3)!你在开玩笑吧? 代码: var d1 = Math.Round(187.5); // 188 var d2 …

独守阴晴ぅ圆缺 2024-12-13 08:50:05 3 0

如何将 2 个受限十进制变量转换为第三个变量,反之亦然?

我有 2 个转换器方法如下: private const decimal MaxValidValue = 99.99m; public decimal ConvertABToC(decimal a, decimal b) { return a * b; } …

掩饰不了的爱 2024-12-13 08:42:39 2 0

Python 中的百分比和四舍五入

我有一个代码,它创建文本文件中某些单词长度的丰度百分比列表,例如 1 个字母的单词出现 13% 的时间,我想知道在 50,000 个单词的文本文件中是否有 1…

哭了丶谁疼 2024-12-13 03:26:20 3 0

C++ gamedev:将 float 截断为 int

我正在用 C++ 制作一个游戏,其中有一辆可以在舞台上移动的坦克。坦克有一个角度(浮动,以度为单位,我假设当他的大炮指向右侧时坦克处于 0°),速度…

梦里梦着梦中梦 2024-12-12 22:36:59 2 0

在 Java 中对数字进行四舍五入

我不明白如何将数字四舍五入到某些小数位 我到处找,尝试了 目前我的程序,将其四舍五入为整数 双 rACT = Math.ceil(ACT); 双 rSAT = Math.ceil(SAT);…

风吹过旳痕迹 2024-12-12 03:05:28 3 0

ruby to_f 错误或乘法运算符错误?

您好,我刚刚遇到一个问题,Ruby 的 to_f 函数给我的结果不一致。 ruby-1.9.2-head :026 > 8.45.to_f * 100 => 844.9999999999999 ruby-1.9.2-head :0…

可是我不能没有你 2024-12-12 02:37:56 3 0

C# 的 System.Single 精度

在下面的示例中,数字 12345678.9 在转换为字符串时会失去准确性,因为它变为 1.234568E+07。我只需要一种方法来保持大浮点数的准确性。谢谢。 Single…

凶凌 2024-12-11 22:12:45 2 0

将双数四舍五入到十分位

可能的重复: C++ 中的 float 的 round() 好吧,假设我有数字 8.47434。我想将其四舍五入到 8.5 并保留到小数点后 1 位。我将如何在 C++ 中做到这一…

祁梦 2024-12-11 22:10:48 2 0

为什么 Sql Server 2000 上的 TSQL 对小数点的舍入不一致?

我正在尝试计算美元金额的折扣百分比。在 50% 的情况下,有时你会得到半分钱,我需要将其四舍五入到最接近的一分钱。 在 Sql 中,我的计算如下: roun…

长途伴 2024-12-11 12:20:54 4 0

有没有办法根据值是大于 0.5 还是小于 0.5 来进行下限/上限?

我正在尝试对我的值进行四舍五入,以便如果它是 0.5 或更大,它就会变成 1,否则它就会变成 0。例如: 3.7 -> 4; 1.3 -> 1; 2.5 -> 3; ... 有什么想法…

红颜悴 2024-12-11 10:05:00 3 0

将 numpy 舍入到最近的步骤

我想知道如何将 numpy 中的数字舍入到上限或下限阈值,该阈值是预定义步长的函数。希望以更清晰的方式说明,如果我有数字 123 且步长等于 50,我需要…

薆情海 2024-12-11 08:26:31 2 0

如何将数字四舍五入到一定范围内?

我有一个像这样的值: 421.18834 并且我必须使用如下所示的掩码正确地对其进行数学舍入: 0.05 0.04 0.1 例如,如果掩码是 0.04,我必须获取值 421.20…

怂人 2024-12-11 03:32:31 2 0

ruby 中的数字四舍五入

只是想知道如何在红宝石中将数字“15.755”四舍五入为“15.76”。 我已经尝试过圆形方法,但没有产生我想要的结果。 谢谢…

巷雨优美回忆 2024-12-11 01:47:17 1 0
更多

推荐作者

紫罗兰の梦幻

文章 0 评论 0

-2134

文章 0 评论 0

liuxuanli

文章 0 评论 0

意中人

文章 0 评论 0

○愚か者の日

文章 0 评论 0

xxhui

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文