为什么trace(123.456 - 123)在flash as2中给我0.456000000000003

Question

跟踪(123.456 - 123) //输出是0.456000000000003！！！！！！ 为什么它给了我这个奇怪的值？我需要它输出 0.456 （我的目标是得到分数）

Answer 1

就像 1/3 和 1/7 不能用十进制很好地表示一样（分别为 0.33333... 和 0.142857142857...），某些十进制数也不能用二进制很好地表示，从而导致这样的错误。要解决它，请尝试以下操作：

var mynum=(123.456 - 123);
mynum=Math.round(mynum*1000)/1000;
trace(mynum);

Answer 2

因为它是一个浮点数，你无法准确地用浮点数表示所有数字。

如果你需要一个分数，就创建一个派系类（也许AS中已经内置了一个我不知道。）

Answer 3

因为你正在处理一个浮点数。您需要将其四舍五入：

http://board.flashkit。 com/board/showthread.php?t=778701

从上面的链接中发挥作用（数字已更改）：

var num:Number = 123.456 - 123;
num *= 1000;
num = Math.round(num);
num /= 1000;
trace(num);