如何计算浮点列中小数点右侧的位数？

Question

我有一个带有纬度和经度的表，它们存储为浮点。如何计算“纬度”列中小数点右侧的位数？数据看起来像这样：

    DECLARE @MyData TABLE (ID, Latitude float, Longitude float)
    INSERT @MyData

    SELECT 'A', 33.11, -55.2235 UNION ALL
    SELECT 'B', 33.6407760431,-87.0002760543 UNION ALL
    SELECT 'C', 42.2997,-70.9081; 

我希望在

    ID    |   LatitudeNumberOfDigits
     A    |    2
     B    |   10
     C    |    4

尝试将其转换为文本并使用 .作为分隔符，但 CONVERT 没有按预期工作。它四舍五入到四位有效数字

    SELECT ID, Latitude, Longitude, 
    CONVERT(varchar(max),[Latitude]) AS LatText 
    FROM @MyData

给了我

     ID Latitude    Longitude        LatText
     A  33.11           -55.2235         33.11
     B  33.6407760431   -87.0002760543   33.6408
     C  42.2997         -70.9081         42.2997

谢谢！

Answer 1

试试这个（假设你的浮点数最多有 10 位小数，否则调整 STR 中的值）。

WITH MyData (ID, Latitude, Longitude)
AS
(
    SELECT 'A', CAST(33.11 AS FLOAT), CAST(-55.2235 AS FLOAT) UNION ALL
    SELECT 'B', 33.6407760431,-87.0002760543 UNION ALL
    SELECT 'C', 42.2997,-70.9081 
)
SELECT ID, Latitude, Longitude, 
    LEN(CAST(REVERSE(SUBSTRING(STR([Latitude], 13, 11), CHARINDEX('.', STR([Latitude], 13, 11)) + 1, 20)) AS INT)) AS LatText  
FROM MyData

然而，正如其他人所指出的，FLOAT 可能会给您带来一些麻烦。
例如考虑这个：

SELECT STR(33.11, 20,17) -- result: 33.1099999999999990

Answer 2

你不知道。小数位数由 SQL 中浮点数的大小决定。您看到的数量取决于浮动格式的方式。

Answer 3

使用 DECIMAL 而不是 FLOAT：

DECLARE @a FLOAT = 33.6407760431
SELECT CAST(@a AS VARCHAR(100))

DECLARE @b DECIMAL(22,10) = 33.6407760431
SELECT CAST(@b AS VARCHAR(100))

返回：

33.6408

33.6407760431

Answer 4

转换为数字（最大精度，最大比例）。然后用 case 语句进行迭代。

declare @value as numeric(19,5) = 123.12647

select 
CASE WHEN @value = round(@value,0) then 0
     WHEN @value = round(@value,1) then 1
     WHEN @value = round(@value,2) then 2
     WHEN @value = round(@value,3) then 3
     WHEN @value = round(@value,4) then 4
     else 5 end

Answer 5

这可能不是有效的 tsql，但它会很接近：

SELECT LENGTH(CONVERT(varchar(255), Latitude - CAST (Latitude as int))) AS decimal_place_count 

Answer 6

使用 STR 函数而不是 CONVERT 或 CAST。它允许您更好地控制小数位数和字符串的总长度。请参阅STR (Transact-SQL)

LEN(RTRIM(REPLACE(STR(Latitude,15,10),'0',' '))) - 5