SQL Server 自动舍入？

Question

我对以下结果感到非常困惑：

PRINT 3.1415926535897931 /180

控制台结果 = 0.01745329251994329500

DECLARE @whatTheHell float(53)
SET @whatTheHell  = 3.1415926535897931/180
PRINT @whatTheHell 

控制台结果 = 0.0174533

我不明白，因为参考此：

http://msdn.microsoft.com/en-us/library/ms131092.aspx

Sql Server Float 应该相当于 c# double。 但是当我在 c# 中计算时：

double hellYeah = 3.1415926535897931 /180;

我得到 0.017453292519943295...

Answer 1

我认为您对 PRINT 使用 STR 函数的默认设置（长度为 10）隐式将数字转换为字符这一事实感到困惑（请参阅MSDN）。 尝试 PRINT STR(@wth, 20, 16)，您可能会更高兴。

Answer 2

除法不是四舍五入。 PRINT 是四舍五入。

DECLARE
  @var1 float,
  @var2 float,
  @var3 float

SET @var1 = 3.1415926535897931
SET @var2 = 180

SET @var3 = @var1 / @var2
SELECT @var1/@var2 as Computed, @var3 as FromVariable

PRINT @var1/@var2
PRINT @var3

Answer 3

我猜“FLOAT”类型只是对精度有限制。 Books Online 说使用 FLOAT(53) 您应该获得最多 15 位的精度 - 不确定这些数字是在小数点分隔符之前还是之后是否存在固有限制。

尝试使用小数代替：

DECLARE @whatTheHell2 decimal(18,16)
SET @whatTheHell2  = 3.1415926535897931/180
PRINT @whatTheHell2 

给我结果：

0.0174532925199433

Marc

Answer 4

来自 SQL Server 2005 联机丛书 数据类型转换< /a> 主题：

在 Transact-SQL 语句中，常量
自动带有小数点
转换为数值数据值，
使用最小精度和小数位数
必要的。 例如，常数
12.345 转换为精度为 5 的数值
规模为 3。

因此以下内容更能代表 SQL Server 隐式执行的操作：

DECLARE @whatTheHell NUMERIC(21, 20)
SET @whatTheHell = 3.1415926535897931 / 180
PRINT @whatTheHell

Answer 5

PRINT 3.1415926535897931 /180 被评估为十进制。

Float 仅解析为 15 位有效数字。 你有 17 个，所以它不能是浮动的。 由于数据类型优先级和输出，180 通过隐式转换变成十进制比例和精度基于这些规则

输出0.01745329251994329500有17个sig无花果也是。 它必须是十进制。

现在，SET @whatTheHell = 3.1415926535897931/180。 浮点转换作为赋值运算符的一部分进行。 在此之前，它的右侧也是小数。 浮点数是近似值，并且是四舍五入。

在 C# 中，它都是双精度数，因为你没有固定点（除非你告诉编译器？）

相关问题：

为小数（x，y）选择适当的精度

在 SQL 中，如何将货币数据类型转换为小数？

SQL Server，where 子句与不同类型的比较 默认转换行为

Answer 6

当您说 SQL 浮点映射到 C# 双精度时，我认为您假设 SQL 浮点字节大小与 C# 双字节大小相同。

我想说，C# double 是 C# 中唯一足够大的浮点数据类型，可以存储 SQL 浮点数。

示例：

C# Double = 8 字节
Sql Float = 4 bytes

解决问题的简单方法是在 SQL 中使用小数或数字