fixed-point

fixed-point

文章 0 浏览 3

如何在浮点上使用 expr?

我知道这是一个非常愚蠢的问题,但我不知道如何在 bash 中执行此操作: 20 / 30 * 100 它应该是 66.67 但 expr 说 0,因为它不支持漂浮。 Linux 中的…

情徒 2024-08-02 00:34:36 8 0

C# 中的定点数学

C# 中有一些关于定点数学的好资源吗? 我见过这样的事情(http://2ddev.72dpiarmy.com/viewtopic.php ?id=156)和这个(进行定点数学的最佳方法是什么…

五里雾 2024-07-14 20:21:47 6 0

SQL Server 2005 中将值强制转换为 FLOAT 时出错

我正在尝试为生病的同事获取一个存储过程(因此无法请求指导)。 我有一个 SQL Server 2005 数据库,它具有这个确切的过程,并且我正在尝试编写脚本来…

玩物 2024-07-09 21:47:38 10 0

如今何时使用定点

对于密集的数字运算,我正在考虑使用定点而不是浮点。 当然,定点类型的大小有多少字节、它将在什么 CPU 上运行、如果我可以使用(对于英特尔)MMX 或…

暗地喜欢 2024-07-07 20:04:11 8 0

将浮点转换为定点

在 C++ 中,将任何浮点值 (float) 转换为定点&lt的通用方法是什么/strong&gt(实时,16:16 或 24:8)? 编辑:为了澄清,定点值有两个部分:整数部分…

失去的东西太少 2024-07-07 13:29:20 6 0

在 C++ 中使用什么来表示定点?

Closed. This question is seeking recommendations for software libraries, tutorials, tools, books, or other off-site resources. It does not …

如痴如狂 2024-07-06 03:24:21 7 0

反转 4x4 矩阵 - 需要最稳定的数值解

我想反转 4x4 矩阵。 我的数字以定点格式存储(确切地说是 1.15.16)。 对于浮点运算,我通常只是构建伴随矩阵并除以行列式(例如强力求解)。 到目前…

Oo萌小芽oO 2024-07-05 18:10:25 9 0

进行定点数学的最佳方法是什么?

我需要为没有 FPU 的 Nintendo DS 加速一个程序,因此我需要将浮点数学(经过仿真且速度较慢)更改为定点。 我的开始方式是将浮点数更改为整数,每当…

瑕疵 2024-07-04 19:59:34 6 0
更多

推荐作者

1CH1MKgiKxn9p

文章 0 评论 0

ゞ记忆︶ㄣ

文章 0 评论 0

JackDx

文章 0 评论 0

信远

文章 0 评论 0

yaoduoduo1995

文章 0 评论 0

霞映澄塘

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文