AX 中未另外显示精确值
static void vall(Args _args)
{
real value1 = 90077404192159.75;
real value2 = 90077254918474.73;
real valueSum;
;
valueSum = value1 + value2;
error(strFmt("%1", valueSum)); // returns 180,154,659,110,634.50
// result should be 180,154,659,110,634.48;
}
static void vall(Args _args)
{
real value1 = 90077404192159.75;
real value2 = 90077254918474.73;
real valueSum;
;
valueSum = value1 + value2;
error(strFmt("%1", valueSum)); // returns 180,154,659,110,634.50
// result should be 180,154,659,110,634.48;
}
如果你对这篇内容有疑问，欢迎到本站社区发帖提问 参与讨论，获取更多帮助，或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱，如果其他用户或者作者回复了您的评论，将不能在第一时间通知您！
发布评论
评论（1）
实数的范围是 -(10)127 到 (10)127，精度为 16 位有效数字。
http://msdn.microsoft.com/en-US/library/aa878630.aspx
The range of reals is -(10)127 to (10)127 with a precision of 16 significant digits.
http://msdn.microsoft.com/en-US/library/aa878630.aspx