Sql Server - 精确处理
我刚刚在 MSDN 上阅读有关 精确处理 的内容。
摘自本网站的表格:
操作:e1 / e2
结果精度:p1 - s1 + s2 + max(6, s1 + p2 + 1)
结果比例:max(6, s1 + p2 + 1)
所用表达式的解释:
操作数表达式表示为表达式 e1(具有精度 p1 和小数位数 s1)和表达式 e2(具有精度 p2 和小数位数 s2)。
我不明白(更像是我不是 100% 确定我理解它)是这个表达式
max(6, s1 + p2 + 1)
有人可以向我解释一下吗?
非常感谢:)
I am just reading on the MSDN about Precision Handling.
Taken out from the table on this site:
Operation: e1 / e2
Result precision: p1 - s1 + s2 + max(6, s1 + p2 + 1)
Result scale: max(6, s1 + p2 + 1)
For the explanation of the used expressions:
The operand expressions are denoted as expression e1, with precision p1 and scale s1, and expression e2, with precision p2 and scale s2.
What I do not understand (more like I am not 100% sure I understand it) is this expression
max(6, s1 + p2 + 1)
Can someone explain it to me?
Many thanks :)
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论
评论(1)
请参阅我的工作示例T-SQL Decimal Division Accuracy
这意味着最大
6
或(scale1 + precision2 + 1)
作为结果的比例See my worked example here T-SQL Decimal Division Accuracy
It means maximum of
6
or(scale1 + precision2 + 1)
for the scale of result