Postgresql从float8到decimal(24,8)的错误转换

Question

使用Postgres 12.4我发现float8到decimal(24,8)之间的舍入有些不一致

通过执行

select 
  29314.630053404966::float8::decimal(24,8) as num1,
  29314.630053404966::decimal(24,8) as num2

返回是：

num1: 29314.63005341 -> wrong
num2: 29314.63005340 -> correct

正如你所看到的舍入不能正常工作

有什么方法可以正确地从float8转换到decimal(24,8)？

Answer 1

如果我想存储小数点值，我总是会使用decimal而不是使用float8。

为什么？有一个例子

SELECT 0.1::decimal(24,8) + 0.2::decimal(24,8); --0.30000000

SELECT 0.1::float8 + 0.2::float8; --0.30000000000000004

我们可以看到 0.1::float8 + 0.2::float8 将得到错误的数字。

更多详细信息可以参考每个程序员都应该了解浮点运算

有什么方法可以正确地将 float8 转换为decimal(24,8)？

有一种方法可能会帮助您做到这一点，

我们可以先尝试将值转换为字符串，即在将 float8 转换为 decimal(24,8) 之前。

select 
  29314.630053404966::float8::varchar(40)::decimal(24,8) as num1,
  29314.630053404966::decimal(24,8) as num2

这种方式可能可行，但会导致性能问题。

sqlfiddle