Flex 中数字数据类型自动失去精度
private function getPercentage(max:Number, value:Number):int
{
return Number((value*100) / max);
}
我调用上面的函数来为对象分配百分比。
var max:Number = findMax();
p.percentage = getPercentage(max, p.value);
假设 p 是某个百分比定义为的对象，
public var percentage:Number;
当我放置断点并检查 getPercentage 中返回的值时，它将类似于 1.22343342322 但当我将其分配给 p.percentage 时> 它自动变成1，失去精度。
我该如何处理这种情况？
LiveDocs 中说
要存储浮点数， 数字中包含小数点。 如果省略小数点，则 数字将存储为整数。
但我该怎么做呢？对此问题的任何见解都将受到高度赞赏。
private function getPercentage(max:Number, value:Number):int
{
return Number((value*100) / max);
}
I call the above function to assign a percentage to an object.
var max:Number = findMax();
p.percentage = getPercentage(max, p.value);
Assume that p is some object with percentage defined as
public var percentage:Number;
When I put a breakpoint and check for the value returned in getPercentage it will something like 1.22343342322 but when I assign it to p.percentage it automatically becomes 1, losing the precision.
How do I handle this kind of a situation?
It says in the LiveDocs
To store a floating-point number,
include a decimal point in the number.
If you omit a decimal point, the
number will be stored as an integer.
But how do I do that? Any insight to this problem is highly appreciated.
如果你对这篇内容有疑问，欢迎到本站社区发帖提问 参与讨论，获取更多帮助，或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱，如果其他用户或者作者回复了您的评论，将不能在第一时间通知您！
发布评论
评论（1）
您的方法
getPercentage()返回int。将其更改为数字。Your method
getPercentage()returnsint. Change it toNumber.