Sql Server - 精确处理

发布于 2024-09-30 17:55:45 字数 537 浏览 2 评论 0原文

我刚刚在 MSDN 上阅读有关 精确处理 的内容。

摘自本网站的表格:

操作:e1 / e2

结果精度:p1 - s1 + s2 + max(6, s1 + p2 + 1)

结果比例:max(6, s1 + p2 + 1)

所用表达式的解释:

操作数表达式表示为表达式 e1(具有精度 p1 和小数位数 s1)和表达式 e2(具有精度 p2 和小数位数 s2)。

我不明白(更像是我不是 100% 确定我理解它)是这个表达式

max(6, s1 + p2 + 1)

有人可以向我解释一下吗?

非常感谢:)

I am just reading on the MSDN about Precision Handling.

Taken out from the table on this site:

Operation: e1 / e2

Result precision: p1 - s1 + s2 + max(6, s1 + p2 + 1)

Result scale: max(6, s1 + p2 + 1)

For the explanation of the used expressions:


The operand expressions are denoted as expression e1, with precision p1 and scale s1, and expression e2, with precision p2 and scale s2.

What I do not understand (more like I am not 100% sure I understand it) is this expression

max(6, s1 + p2 + 1)

Can someone explain it to me?

Many thanks :)

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

故事和酒 2024-10-07 17:55:45

请参阅我的工作示例T-SQL Decimal Division Accuracy

这意味着最大6(scale1 + precision2 + 1) 作为结果的比例

See my worked example here T-SQL Decimal Division Accuracy

It means maximum of 6 or (scale1 + precision2 + 1) for the scale of result

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文