fixed-point

fixed-point

文章 0 浏览 3

Python:从两个 32 位整数创建定点小数(一个用于整数部分,一个用于十进制)

我有一个从二进制数据文件中解压出来的 64 位时间戳,其中前 32 位是秒数,后 32 位是秒的小数部分。我一直困惑于如何将底部 32 位实际转换为分数,而…

凌乱心跳 2024-09-25 09:45:23 2 0

如何使用 32 位除法指令执行 64 位除法?

这是(AFAIK)这个一般主题。 情况是这样的: 我有一个基于 32 位 RISC 微控制器(NEC V810 的变体)的嵌入式系统(视频游戏控制台)。我想写一个定点…

苦笑流年记忆 2024-09-16 16:05:41 7 0

具有不同缩放因子的浮动到固定转换

谁能告诉我当我将固定转换为浮动和浮动转换为固定时,这些方法之间有什么区别。 一个) int a=32767; float b = 32765*(1/32767) // 16 位缩放因子 i…

猛虎独行 2024-09-15 13:36:58 5 0

已知范围内的定点乘法

我正在尝试以 16 位定点乘以 A*B,同时保持尽可能高的准确性。 A 是无符号整数范围内的 16 位,B 除以 1000,并且始终在 0.001 和 9.999 之间。我已经…

野の 2024-09-10 06:02:55 2 0

C 中的浮点算法

我最近在思考浮点数学如何在计算机上工作,并且我很难理解公式背后的所有技术细节。我需要了解加法、减法、乘法、除法和余数的基础知识。有了这些,我…

话少情深 2024-09-08 17:34:27 3 0

臂汇编器在乘长后右移?

新手 ARM 汇编程序问题。我正在编写我的第一个 ARM 汇编程序,并尝试编写这个 C 片段。 int x = somevalue1 &lt&lt 12 // s19.12 int y = somevalue2 …

天暗了我发光 2024-09-06 12:40:34 3 0

定点乘法“解”,疯狂还是可行?

假设这么多: 我使用的是 16.16 定点系统。 系统是32位的。 CPU没有浮点处理器。 对于大于 1.0 * 0.4999 的任何乘法,溢出都是迫在眉睫的 最后一个假…

花落人断肠 2024-09-03 01:20:31 1 0

在Android上使用GL_FIXED还是GL_FLOAT更好

我本以为 GL_FIXED 更快,但 iPhone 文档实际上说使用 GL_FLOAT ,因为 GL_FIXED 必须转换为 GL_FLOAT 。安卓上也一样吗?我想它会因手机而异,但最近…

追风人 2024-09-02 10:15:32 6 0

逆向公式转换

我有一个计算 Y 位置的公式,这里是: double y = ... double minX = .. double scaleY = .. int MAX_COORD = (1 &lt&lt 16) - 1 int sy = ~(int)((y …

七秒鱼° 2024-09-02 01:56:36 1 0

定点算术值得我费力吗?

我正在研究一个应该实时运行的流体动力学纳维-斯托克斯求解器。因此,性能很重要。 现在,我正在研究许多紧密循环,每个循环都占执行时间的很大一部分…

旧竹 2024-08-29 22:10:16 4 0

定点算法的浮点转换

我有一个使用 24 位定点计算的应用程序。我将其移植到支持浮点的硬件,因此为了速度优化,我需要将所有基于定点的计算转换为基于浮点的计算。 对于此…

傲世九天 2024-08-29 03:38:20 3 0

定点到浮点以及向后

正在转换固定点。 (固定 n 位分数)到 IEEE 双安全? 即:IEEE 双精度格式是否可以表示定点可以表示的所有数字? 测试:数字变为浮动 pt 格式,然后…

好久不见√ 2024-08-27 06:47:05 9 0

在 c/c++ 中将 16.16 定点转换为 32 位浮点数的最快方法在 x86 上?

大多数人似乎想走另一条路。我想知道是否有一种快速方法将定点转换为浮点,最好使用 SSE2。直接 C 或 C++ 甚至 asm 都可以。…

我不吻晚风 2024-08-21 17:09:24 3 0

如何命名提取小数部分的函数?

我正在编写一个处理十进制数的类,例如“123.456”。我想要一个用于提取小数点之前的数字(123)的函数,以及一个用于提取小数点之后的数字(0.456)…

淡忘如思 2024-08-21 17:05:54 5 0

目前广泛使用的压缩算法的定点

我想知道是否存在一种当今常用的压缩算法,它包含一个固定点,即身份文件。 为了解释一下,我们调用 C : byte[] -&gt byte[] 表示压缩算法的函数。我…

撞了怀 2024-08-03 00:28:27 1 0
更多

推荐作者

1CH1MKgiKxn9p

文章 0 评论 0

ゞ记忆︶ㄣ

文章 0 评论 0

JackDx

文章 0 评论 0

信远

文章 0 评论 0

yaoduoduo1995

文章 0 评论 0

霞映澄塘

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文