NSDecimalNumber 不是应该能够进行以 10 为基数的算术吗？

Question

NSDecimalNumber *minVal = [NSDecimalNumber decimalNumberWithString:@"0.0"];
NSDecimalNumber *maxVal = [NSDecimalNumber decimalNumberWithString:@"111.1"];
NSDecimalNumber *valRange = [maxVal decimalNumberBySubtracting:minVal];
CGFloat floatRange = [valRange floatValue];
NSLog(@"%f", floatRange); //prints 111.099998

难道 NSDecimalNumber 不应该能够正确地进行以 10 为基数的算术吗？

Answer 1

是的，NSDecimalNumber 以 10 为基数进行运算，但 CGFloat 则不然。

Answer 2

是的，NSDecimalNumber 是以 10 为基数的。

转换为浮点类型会降低准确性。在他们的例子中，因为示例只使用了 NSLog 只是 NSLog 的 NSDecimalNumber:

NSDecimalNumber *minVal = [NSDecimalNumber decimalNumberWithString:@"0.0"];
NSDecimalNumber *maxVal = [NSDecimalNumber decimalNumberWithString:@"111.1"];
NSDecimalNumber *valRange = [maxVal decimalNumberBySubtracting:minVal];
CGFloat floatRange = [valRange floatValue];
NSLog(@"floatRange: %f", floatRange);
NSLog(@"valRange: %@", valRange);

NSLog 输出：

floatRange: 111.099998
valRange: 111.1

Answer 3

好的，只要这样做，CGFloat aNumber = 111.1; 就会在调试器中显示为 111.099998，甚至在对其执行任何操作之前。因此，当将其分配给不太精确的数据类型时，无论稍后发生任何算术运算，精度都会丢失。