floating-point

floating-point

文章 0 浏览 4

matlab和c的区别在于cos函数

我有一个用matlab实现的程序和用c实现的相同程序,但结果不同。 我有点困惑 cos 函数没有返回完全相同的结果。 在这两种情况下,我都使用同一台计算机…

静赏你的温柔 2024-12-08 05:12:22 2 0

谁能向我解释一下这种浮点怪异现象吗?

我试图像这样循环遍历浮点数的​​所有可能值: float i = 0.0F; float epsilon = float.Epsilon; while (i != float.MaxValue) { i += epsilon; } 但…

财迷小姐 2024-12-08 02:36:20 1 0

为什么 Haskell 数字文字需要以数字开头和结尾?

在 Haskell 98 报告中,据说 浮点文字必须在小数点前后都包含数字;这可以确保小数点不会被误认为是点字符的另一种用法。 这可能还有什么其他用途?我…

缱绻入梦 2024-12-08 01:56:05 0 0

在 c++ 中将字符串转换为浮点数

我想将从 csv 文件读取的 std::string 转换为 float。其中包含几种浮点表示形式,例如: 0,0728239 6.543.584.399 2,67E-02 这些字符串都应该是浮点。…

夜无邪 2024-12-08 00:50:23 1 0

Python 中的浮点表示错误

可能的重复: 浮点数是如何存储的?什么时候重要? Python 浮点数舍入错误 我试图理解为什么我们得到浮点数python 中的表示错误。我知道这不是新问题…

舞袖。长 2024-12-08 00:48:48 1 0

所有单精度数字都可以用双精度格式表示吗?

给定以 IEEE-754 单精度格式(在某些语言/平台中通常称为 float)表示的任意数字,我可以确定该数字也可以以双精度格式精确表示? 如果是这样,在考虑…

葵雨 2024-12-07 21:52:49 0 0

无法匹配预期类型 - Haskell

我是 Haskell 的新手,仍然不能完全弄清楚这些类型问题。我收到以下函数的错误: computeTriUp :: Point -> Float -> [Point] computeTriUp center r …

陌上芳菲 2024-12-07 18:54:13 0 0

在 C# 中转换大美元值

我有一个应用程序可以管理从一百万到数十亿美元的项目成本。最初,用户输入项目的估算:称为“拨款金额”。 问题是: 原始值未按预期转换。一些示例包…

瘫痪情歌 2024-12-07 16:51:24 0 0

python中浮点数转整数

如果我想在Python中将浮点数转换为整数,我应该使用什么函数? 问题是我必须使用通过函数 math.fabs 传递的变量(绝对值)作为列表的索引,因此它必须…

风渺 2024-12-07 13:41:09 0 0

3 个变量的总和:奇怪的行为

可能的重复: JavaScript 的数学是否已损坏? 为什么十进制数不能用二进制精确表示? 下一个代码的结果是什么: if(0.3 == ( 0.1 + 0.1 + 0.1 )) { a…

半衾梦 2024-12-07 12:10:39 1 0

Javascript将大浮点数转换为字符串

可能的重复: 如何避免在 JavaScript 中使用科学记数法? Javascript:如何在显示大数字时避免使用科学记数法 我有这个代码: var f = 1000000000000…

九八野马 2024-12-07 09:05:41 0 0

Ruby:为什么 1.025.round(2) 四舍五入为 1.02?

据我了解 .round () - ruby​​ 中的功能将小数向上舍入,其中最后一个有效数字是 5? 例如 1.5.round(0) # => 2 (好的) 但是为什么 1.025.round(2)…

柠檬 2024-12-07 07:24:21 5 0

字符串转换为浮点数错误? (闪电战 - 反思)

我在 Blitzmax 中遇到了一个小问题。 我尝试读取 INI 文件,如果我读取浮点数,它们会以一种非常奇怪的方式进行转换。 相关文件中的行看起来像这样,…

北方。的韩爷 2024-12-07 07:11:01 0 0

如何使 100.02f - 100 == 0.02f 在 C# 中为真?

看来是四舍五入的问题。我有 float[] 数组以及对该数组的一些操作。我需要为此功能编写单元测试,但考虑到这种舍入问题,将预期值与结果值进行比较并…

山川志 2024-12-07 06:07:34 1 0

浮动比较给出不同的结果

看下面两个代码,告诉我答案差异很大的原因。 #include int main() { float a = 0.9; if(a<0.9) printf("hi"); // This will be the answer else prin…

|煩躁 2024-12-07 02:35:43 1 0
更多

推荐作者

已经忘了多久

文章 0 评论 0

15867725375

文章 0 评论 0

LonelySnow

文章 0 评论 0

走过海棠暮

文章 0 评论 0

轻许诺言

文章 0 评论 0

信馬由缰

文章 0 评论 0

更多

友情链接

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文