fixed-point

fixed-point

文章 0 浏览 6

具有不同缩放因子的浮动到固定转换

谁能告诉我当我将固定转换为浮动和浮动转换为固定时,这些方法之间有什么区别。 一个) int a=32767; float b = 32765*(1/32767) // 16 位缩放因子 i…

猛虎独行 2024-09-15 13:36:58 7 0

已知范围内的定点乘法

我正在尝试以 16 位定点乘以 A*B,同时保持尽可能高的准确性。 A 是无符号整数范围内的 16 位,B 除以 1000,并且始终在 0.001 和 9.999 之间。我已经…

野の 2024-09-10 06:02:55 5 0

C 中的浮点算法

我最近在思考浮点数学如何在计算机上工作,并且我很难理解公式背后的所有技术细节。我需要了解加法、减法、乘法、除法和余数的基础知识。有了这些,我…

话少情深 2024-09-08 17:34:27 6 0

臂汇编器在乘长后右移?

新手 ARM 汇编程序问题。我正在编写我的第一个 ARM 汇编程序,并尝试编写这个 C 片段。 int x = somevalue1 << 12; // s19.12 int y = somevalue2 << …

天暗了我发光 2024-09-06 12:40:34 9 0

定点乘法“解”,疯狂还是可行?

假设这么多: 我使用的是 16.16 定点系统。 系统是32位的。 CPU没有浮点处理器。 对于大于 1.0 * 0.4999 的任何乘法,溢出都是迫在眉睫的 最后一个假…

花落人断肠 2024-09-03 01:20:31 4 0

在Android上使用GL_FIXED还是GL_FLOAT更好

我本以为 GL_FIXED 更快,但 iPhone 文档实际上说使用 GL_FLOAT ,因为 GL_FIXED 必须转换为 GL_FLOAT 。安卓上也一样吗?我想它会因手机而异,但最近…

追风人 2024-09-02 10:15:32 11 0

逆向公式转换

我有一个计算 Y 位置的公式,这里是: double y = ...; double minX = ..; double scaleY = ..; int MAX_COORD = (1 << 16) - 1; int sy = ~(int)((y …

七秒鱼° 2024-09-02 01:56:36 6 0

定点算术值得我费力吗?

我正在研究一个应该实时运行的流体动力学纳维-斯托克斯求解器。因此,性能很重要。 现在,我正在研究许多紧密循环,每个循环都占执行时间的很大一部分…

旧竹 2024-08-29 22:10:16 7 0

定点算法的浮点转换

我有一个使用 24 位定点计算的应用程序。我将其移植到支持浮点的硬件,因此为了速度优化,我需要将所有基于定点的计算转换为基于浮点的计算。 对于此…

傲世九天 2024-08-29 03:38:20 7 0

定点到浮点以及向后

正在转换固定点。 (固定 n 位分数)到 IEEE 双安全? 即:IEEE 双精度格式是否可以表示定点可以表示的所有数字? 测试:数字变为浮动 pt 格式,然后…

好久不见√ 2024-08-27 06:47:05 15 0

在 c/c++ 中将 16.16 定点转换为 32 位浮点数的最快方法在 x86 上?

大多数人似乎想走另一条路。我想知道是否有一种快速方法将定点转换为浮点,最好使用 SSE2。直接 C 或 C++ 甚至 asm 都可以。…

我不吻晚风 2024-08-21 17:09:24 6 0

如何命名提取小数部分的函数?

我正在编写一个处理十进制数的类,例如“123.456”。我想要一个用于提取小数点之前的数字(123)的函数,以及一个用于提取小数点之后的数字(0.456)…

淡忘如思 2024-08-21 17:05:54 9 0

目前广泛使用的压缩算法的定点

我想知道是否存在一种当今常用的压缩算法,它包含一个固定点,即身份文件。 为了解释一下,我们调用 C : byte[] -> byte[] 表示压缩算法的函数。我想…

撞了怀 2024-08-03 00:28:27 5 0

如何在浮点上使用 expr?

我知道这是一个非常愚蠢的问题,但我不知道如何在 bash 中执行此操作: 20 / 30 * 100 它应该是 66.67 但 expr 说 0,因为它不支持漂浮。 Linux 中的…

情徒 2024-08-02 00:34:36 12 0

C# 中的定点数学

C# 中有一些关于定点数学的好资源吗? 我见过这样的事情(http://2ddev.72dpiarmy.com/viewtopic.php ?id=156)和这个(进行定点数学的最佳方法是什么…

五里雾 2024-07-14 20:21:47 10 0
更多

推荐作者

佚名

文章 0 评论 0

羁客

文章 0 评论 0

文章 0 评论 0

夏日落

文章 0 评论 0

隐诗

文章 0 评论 0

更多

友情链接

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文