floating-point

floating-point

文章 0 浏览 4

导入平面文件逗号分隔 SQL Server 2008 时出现浮点问题

我在 SQL Server 2008 中导入此 dataset.txt(平面文件,逗号分隔)时遇到问题, x1,x2,x3,x4,x5,x6,x7,x8,x9,x10,x11,x12,x13,x14,x15,x16,x17,x18,x…

森末i 2024-12-09 12:05:53 0 0

比较 C 中的浮点值

我想比较浮点值以确定列表中的最大数字。浮点的精度是固定的,小数点后为 6。 我应该将它们作为整数进行比较,如果它们相等,那么就去挖掘小数点后的…

无所谓啦 2024-12-09 10:32:45 0 0

perl 不一致的负零结果

我有以下代码: my $m=0; my $e =0 ; my $g=0; my $x= sprintf( "%0.1f", (0.6*$m+ 0.7 * $e-1.5)*$g); print $x; 当我运行脚本时,结果是 -0.0 而不…

作妖 2024-12-09 10:14:50 2 0

修复 c++ 中 static_cast() 的精度

# include using namespace std; int main() { double a; cin >> a; int b = (int) a*100; cout << b << endl; } 如果你输入 2.53,它会给出 b=252 我…

萝莉病 2024-12-09 09:25:30 1 0

这是使用浮点值进行输入验证的正确方法吗?

在花费了大量时间研究输入验证之后,我结合了一些想法并提出了这个: 检查字符串是否为有效双精度的函数... bool isDouble(double& destination, stri…

嘿哥们儿 2024-12-09 06:42:49 0 0

十六进制浮点常数

在下面的 C 程序中,使用十六进制浮点常量演示了 double d; d = 2; printf("Ex 1: 2 in hex: %a\n\n",d); d = 256; printf("Ex 2: 2^8 in hex: %a\n\n…

独自←快乐 2024-12-09 04:03:47 1 0

“2.00”和“2.00”之间是否存在功能差异?和“2.00f”?

我问这个问题是因为我使用的是 Box2D 库,它主要需要浮点参数。尽管我看到很多使用 0.00f 格式的示例代码,但我不太确定它与普通的旧 0.00 之间是否存…

泪痕残 2024-12-08 22:58:51 1 0

iPhone:如何截断浮点数而不进行四舍五入?

我需要简单地截断浮点数(截断而不是四舍五入)。 float FloatNum = 43.6823921; NSString *numString = [NSString stringWithFormat:@"%.1f", FloatN…

山有枢 2024-12-08 20:34:20 1 0

浮点显示1.5后的0数

我有一个浮点数,可以添加数字,但它不显示我希望的所有小数点,例如我有 1.25 添加 1.25 作为浮点数,它显示为 1.5。例如,我怎样才能让它显示为 1.5…

怪我闹别瞎闹 2024-12-08 17:40:33 1 0

为什么浮点数和双精度数的计算会出现错误?

我一直想知道为什么当计算机应该给出精确的答案时浮点数却不太准确。我在一本书中读到,最好将变量与我们想要的值周围的数字进行比较,因为计算值可能…

聊慰 2024-12-08 17:36:05 0 0

测试给定数字是否为整数

我正在尝试实现一个函数来测试一个数字是否是一个整数: #include #include bool integer(float k) { if (k == 20000) return false; if (k == -20000…

赴月观长安 2024-12-08 14:13:06 0 0

Erlang 的精度

下一个代码在结果中给出了 5.999999999999998,但正确答案是 6。 Alpha = math:acos((4*4 + 5*5 - 3*3) / (2*4*5)) Area = 1/2 * 4 * 5 * math:sin(Al…

给妤﹃绝世温柔 2024-12-08 13:46:34 0 0

我们通常应该对浮点数使用浮点文字而不是更简单的双精度文字吗?

在 C++ 中 (或者可能只有我们的编译器 VC8 和 VC10) 3.14 是双精度文字,3.14f 是浮点文字。 现在我有一个同事说: 我们应该使用浮点文字进行浮点计…

纵性 2024-12-08 13:35:26 1 0

信任浮点运算

我知道像 0.3 这样的数字存在问题,无法使用浮点数表示,因此它们会产生浮点错误。 那么可以表示的数字呢?像 0.5、0.75 等...如果我处理的是 2 的负…

平安喜乐 2024-12-08 12:46:59 1 0

我可以保证 C++编译器不会重新排序我的计算吗?

我目前正在阅读优秀的 双双和四双算术库论文,在前几行中,我注意到它们按以下方式执行求和: std::pair TwoSum(double a, double b) { double s = a …

耳根太软 2024-12-08 11:54:51 1 0
更多

推荐作者

已经忘了多久

文章 0 评论 0

15867725375

文章 0 评论 0

LonelySnow

文章 0 评论 0

走过海棠暮

文章 0 评论 0

轻许诺言

文章 0 评论 0

信馬由缰

文章 0 评论 0

更多

友情链接

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文