按照我想要的格式设置数字
我有号码:a = 3.860575156847749e+003;,我会以正常方式显示它。所以我写b = sprintf('%0.1f' a);。如果我打印 b 我将得到:3860.6。这是完美的。事…
Math.Round() 似乎不一致
可能的重复: .Net 圆形错误 在 C# 中:Math.Round(2.5) 结果是 2(而不是 3)!你在开玩笑吧? 代码: var d1 = Math.Round(187.5); // 188 var d2 …
如何将 2 个受限十进制变量转换为第三个变量,反之亦然?
我有 2 个转换器方法如下: private const decimal MaxValidValue = 99.99m; public decimal ConvertABToC(decimal a, decimal b) { return a * b; } …
C++ gamedev:将 float 截断为 int
我正在用 C++ 制作一个游戏,其中有一辆可以在舞台上移动的坦克。坦克有一个角度(浮动,以度为单位,我假设当他的大炮指向右侧时坦克处于 0°),速度…
在 Java 中对数字进行四舍五入
我不明白如何将数字四舍五入到某些小数位 我到处找,尝试了 目前我的程序,将其四舍五入为整数 双 rACT = Math.ceil(ACT); 双 rSAT = Math.ceil(SAT);…
ruby to_f 错误或乘法运算符错误?
您好,我刚刚遇到一个问题,Ruby 的 to_f 函数给我的结果不一致。 ruby-1.9.2-head :026 > 8.45.to_f * 100 => 844.9999999999999 ruby-1.9.2-head :0…
C# 的 System.Single 精度
在下面的示例中,数字 12345678.9 在转换为字符串时会失去准确性,因为它变为 1.234568E+07。我只需要一种方法来保持大浮点数的准确性。谢谢。 Single…
将双数四舍五入到十分位
可能的重复: C++ 中的 float 的 round() 好吧,假设我有数字 8.47434。我想将其四舍五入到 8.5 并保留到小数点后 1 位。我将如何在 C++ 中做到这一…
为什么 Sql Server 2000 上的 TSQL 对小数点的舍入不一致?
我正在尝试计算美元金额的折扣百分比。在 50% 的情况下,有时你会得到半分钱,我需要将其四舍五入到最接近的一分钱。 在 Sql 中,我的计算如下: roun…
有没有办法根据值是大于 0.5 还是小于 0.5 来进行下限/上限?
我正在尝试对我的值进行四舍五入,以便如果它是 0.5 或更大,它就会变成 1,否则它就会变成 0。例如: 3.7 -> 4; 1.3 -> 1; 2.5 -> 3; ... 有什么想法…
如何将数字四舍五入到一定范围内?
我有一个像这样的值: 421.18834 并且我必须使用如下所示的掩码正确地对其进行数学舍入: 0.05 0.04 0.1 例如,如果掩码是 0.04,我必须获取值 421.20…