“减少” sql十进制数据类型最小精度和基于值的小数位数

Question

我正在解决一个涉及许多 sql 十进制乘法的问题，使用相当高的精度。

最近的一个错误促使我做了一些研究，我发现了一篇令人谦卑的文章（http://msdn.microsoft.com/en-us/library/ms190476.aspx）了解如何计算小数结果的精度和小数位。

据我了解，为了避免截断或意外舍入，有时需要将操作数和可能的中间计算转换为可以工作并给出所需结果的大小。 每个操作数都以十进制（19,5）的形式提供给我。我对此无能为力，因为我们支持如此广泛的价值观。

我的问题：我可以将这些十进制（19,5）值的类型“即时”减少/转换为可容纳该值的最小十进制类型（精度和小数位数）吗？

例如，我可以在将这个变量（@Cw）用于我的乘法之前“即时”将其转换为decimal（4,1​​）吗？

DECLARE @Cw decimal(19,5)
SET @Cw = 113.5

--Some type of CAST, i.e.
--CAST(@Cw as DECIMAL(GetActualPrecision(@Cw), GetActualScale(@Cw)))

-–should show 4 instead of 19
SELECT SQL_VARIANT_PROPERTY(@NewCw, 'Precision') 

–-should show 1 instead of 5
SELECT SQL_VARIANT_PROPERTY(@NewCw, 'Scale')

谢谢！

Answer 1

否

没有动态 CAST：比例和精度是静态的：“定点”
如果你想要任意精度，请使用 float，这当然是“浮点”，

我们主要使用十进制，没有任何问题。

如果你有复杂的数学，但效果不太好，那么我会考虑在 SQL 中使用 CLR 或在具有更好库的客户端代码中进行

Answer 2

我遇到了同样的问题，我使用 CLR 解决了它。以下 C# 函数将十进制类型“打包”为尽可能小的精度和小数位数。

internal static SqlDecimal PackPrecScale(SqlDecimal d)
{
    //Remove leading zeros
    var s = d.ToString();
    var l = s.Length;
    var indexofperiod = s.IndexOf('.');

    //Remove trailing zeros
    if (indexofperiod != -1)
    {
        while (s[l - 1] == '0') l--;
        if (s[l - 1] == '.')
        {
            l--;
            indexofperiod = -1;
        }
    }

    var precision = 6;
    var scale = 0;
    if (l > 0)
    {
        precision = l;
        if (s[0] == '-') precision--;
        if (indexofperiod != -1)
        {
            precision--;
            scale = l - indexofperiod - 1;
        }
        if (precision < 6) precision = 6;
    }

    return SqlDecimal.ConvertToPrecScale(d, precision, scale);
}