rounding

rounding

文章 0 浏览 6

c++将数字远离零舍入

您好,我想在 C++ 中像这样舍入双数(远离零): 4.2 ----> 5 5.7 ----> 6 -7.8 ----> -8 -34.2 ----> -35 执行此操作的有效方法是什么?…

一枫情书 2024-08-02 17:56:17 6 0

javascript奇怪的舍入问题

我有以下用于舍入的 javascript 函数: function round(val, numberdigits){ return Math.round(val*Math.pow(10, numberdigits))/Math.pow(10, numbe…

缺⑴份安定 2024-08-02 11:28:28 5 0

OpenGL:纹理不能被 2 整除时会扭曲

我有一个使用 OpenGL 进行显示的游戏引擎。 我为它编写了一个小菜单,然后在渲染文本后我注意到一些奇怪的事情。 http://img43.imageshack.us/i/garba…

沙与沫 2024-08-02 11:01:29 5 0

对不精确表示的浮点数进行舍入

对于某些财务计算,我们在对浮点数进行舍入时遇到问题。 基本上,我们希望将 1000000000.555 这样的货币金额四舍五入到小数点后两位。但是,该数字的…

岛徒 2024-08-02 08:23:36 10 0

将浮点数转换为字符串而不进行四舍五入

我正在编写一个程序,由于不需要解释的原因,需要将浮点数转换为字符串以便使用 len() 进行计数。然而,str(float(x)) 会导致 x 在转换为字符串时被四…

池木 2024-08-02 04:48:09 9 0

如何在浮点上使用 expr?

我知道这是一个非常愚蠢的问题,但我不知道如何在 bash 中执行此操作: 20 / 30 * 100 它应该是 66.67 但 expr 说 0,因为它不支持漂浮。 Linux 中的…

情徒 2024-08-02 00:34:36 13 0

SQL 轮函数

round(45.923,-1) 给出的结果是 50。这是为什么? 它是如何计算的? (抱歉,我错误地认为这个问题的早期版本建议值为 46)…

妳是的陽光 2024-07-26 04:02:54 4 0

四舍五入双打 - .5 - sprintf

我使用以下代码舍入到 2dp: sprintf(temp,"%.2f",coef[i]); //coef[i] returns a double 它成功地将 6.666 舍入到 6.67,但舍入时无法正常工作 5.555…

活雷疯 2024-07-25 09:50:31 5 0

MATLAB - 楼层问题

我是 MATLAB 初学者。 问题是: >> a = floor(7/2.5) a = 2.00 >> b = rem(7,2.5) b = 2.00 >> c = floor(b/2) c = 0 c 应该是 1,对吧? 为什么是0?…

冷清清 2024-07-25 08:02:59 4 0

SQL Server 自动舍入?

我对以下结果感到非常困惑: PRINT 3.1415926535897931 /180 控制台结果 = 0.01745329251994329500 DECLARE @whatTheHell float(53) SET @whatTheHell…

任谁 2024-07-23 08:23:56 4 0

如何解决导致 Perl 的统计::描述性无限循环的舍入错误?

我正在 Perl 中使用 Statistics::Descriptive 库来计算频率分布并进行计算解决浮点舍入误差问题。 我将两个值 0.205 和 0.205(取自其他数字并通过 sp…

一笔一画续写前缘 2024-07-23 06:14:28 10 0

为什么 Math.Round(2.5) 返回 2 而不是 3?

在 C# 中,Math.Round(2.5) 的结果是 2。 它应该是 3,不是吗? 为什么在 C# 中是 2?…

老街孤人 2024-07-23 05:17:12 4 0

向多人分配美元金额的四舍五入问题

在代码中解决这个问题的最佳方法是什么? 问题是我有 2 美元金额(称为底池),需要分配给 3 个人。 每个人都会从两个罐子中获得特定的金额,并且比率…

度的依靠╰つ 2024-07-22 13:06:33 9 0

如何在 Ruby On Rails 中将数字舍入为动态精度?

我想将数字四舍五入到最接近的数量级。 (我想我说得对) 这里有一些例子: Input => Output 8 => 10 34 => 40 99 => 100 120 => 200 360 => 400 990 …

孤檠 2024-07-21 14:36:11 6 0

如何在不四舍五入的情况下显示数字

我有这个数字:1234.5678(作为文本) 我需要这个数字为双精度,点后只有 2 个数字 ,但没有对 1234.5678 中的数字进行四舍五入 - 我在 12.899999 中…

冷︶言冷语的世界 2024-07-21 08:59:29 6 0
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文