rounding

rounding

文章 0 浏览 6

双精度数四舍五入到小数点后两位

如果值为 200.3456,则应将其格式设置为 200.34。 如果是200,那么它应该是200.00。…

听,心雨的声音 2024-08-31 16:43:22 5 0

C——浮点舍入

我想了解浮点数是如何工作的。 我想我想通过评估以下内容来测试我所知道/需要学习的内容:我想找到最小的 x 使得 x + 1 = x ,其中 x 是浮点数。 据我…

皇甫轩 2024-08-31 06:20:08 5 0

在 Ruby 中使用 .round 对值进行四舍五入时出错

以下代码段在脚本/控制台中完美运行,但当我在 ruby​​ 脚本中编译相同代码时返回以下错误: :in `round': wrong number of arguments (1 for 0) (Ar…

娇纵 2024-08-31 03:32:34 11 0

obj-c : iPhone 编程禁用数字四舍五入

我需要向用户显示一个数字:1.96666777(timeHour), moduloformat = [NSString stringWithFormat:@"%0.0f hours ",timeHour]; 但它会自动对数字进行…

谁把谁当真 2024-08-30 15:40:02 6 0

Python:如何将 123 舍入为 100 而不是 100.0?

>>> round(123,-2) 100.0 >>> 如何将其舍入为 100 而不是 100.0?…

圈圈圆圆圈圈 2024-08-30 11:25:13 8 0

有没有办法将数字四舍五入为读者友好的格式? (例如 1100 美元)

Closed. This question does not meet Stack Overflow guidelines. It is not currently accepting answers. 要求我们推荐或查找工具、库或最喜欢的…

偏爱你一生 2024-08-29 22:28:00 7 0

HLSL tex2d 采样器似乎使用不一致的舍入;为什么?

我的代码需要根据对象的位置以不同的方式渲染对象的区域。我正在尝试使用颜色图来定义这些区域。 问题是当我从颜色图中采样时,会发生碰撞。即,颜色…

苍暮颜 2024-08-29 11:41:38 6 0

在十进制数末尾添加 0 以确保它始终是小数点后 2 位?

我使用以下代码来计算 inc 和 ext VAT 价格: $('#totalexvat').text(totalprice); var vat = totalprice / 100 * 17.5; vat = roundNumber(vat,2); $…

森末i 2024-08-29 08:16:12 9 0

清除双精度数上的尾随 0?

我有一个双精度值,类似于 0.50000,但我只想要 0.5 - 有什么方法可以去掉那些尾随的 0 吗? :)…

不必了 2024-08-28 21:56:53 12 0

对 double 进行舍入以将其转换为 int (java)

现在我正在尝试这个: int a = round(n); 其中 n 是一个 double 但它不起作用。我做错了什么?…

何以畏孤独 2024-08-28 19:29:51 12 0

2005 年和 2000 年的 SQL 舍入问题

我在数据库中有一个值为 2.700000002。当我在 SQL SERVER 2005 的 Management studio 中运行查询时,我得到 2.7。但是当我在 SQL SERVER 2000 查询分…

淡紫姑娘! 2024-08-28 18:33:02 18 0

在 C# 中向上或向下舍入值

我创建了一个在游戏结束时给出分数的游戏,但问题是这个分数有时是一个小数点后有很多位的数字(如 87.124563563566)。我该如何向上或向下舍入该值,…

冷默言语 2024-08-28 13:40:03 11 0

C# 格式化货币

我看到 C# 中的货币四舍五入的有趣情况(VS 2008 SP1)。下面是测试用例的图片: alt text http://img697.imageshack.us /img697/8500/testcases.png …

拥醉 2024-08-28 02:14:49 6 0

x87 FPU 控制字的默认设置由什么决定?

是什么决定了 x87 FPU 控制字的默认设置——具体来说,精度控制字段?编译器是否根据目标处理器进行设置?是否有编译器选项可以更改它? 在 Intel Cor…

暮年慕年 2024-08-27 23:55:00 18 0

为什么我的数字四舍五入不正确?

这感觉像是那种只会在原地失败的代码,但我会尝试将其改编成代表我所看到内容的代码片段。 float f = myFloat * myConstInt; /* Where myFloat==13.45…

一抹苦笑 2024-08-26 13:47:53 12 0
更多

推荐作者

Promise

文章 0 评论 0

qq_lbRlsh

文章 0 评论 0

待"谢繁草

文章 0 评论 0

yy2010hell

文章 0 评论 0

漫无边际

文章 0 评论 0

傲娇萝莉攻

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文