除法和 NSUInteger
我有一些涉及负值的计算：
row = (stagePosition - col) / PHNumRow;
假设 stagePosition 是 -7，col 是 1。它们都是 NSInteger，包括 row。 PHNumRow 是 8。
如果 PHNumRow 是 NSInteger，我得到我期望的结果：-1。 但如果 PHNumRow 是 NSUInteger，则结果是垃圾。
除数是无符号还是有符号为什么重要？ 我不会将结果放入无符号整数中。
I have some calculation that involves negative values:
row = (stagePosition - col) / PHNumRow;
Say stagePosition is -7 and col is 1. They are both NSInteger, including row.
PHNumRow is 8.
If PHNumRow is NSInteger, I get the result I expect: -1.
But if PHNumRow is NSUInteger, the result is garbage.
Why should it matter if the divisor is unsigned or signed?
I'm not putting the result in an unsigned int.
如果你对这篇内容有疑问，欢迎到本站社区发帖提问 参与讨论，获取更多帮助，或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱，如果其他用户或者作者回复了您的评论，将不能在第一时间通知您！
发布评论
评论（1）
因为整数提升。 当计算右侧时，所有参数都将提升为表达式操作数的最高类型，如果
PHNumRow为无符号，则该表达式将是无符号整数。 编译器会执行类似于以下内容的操作：由于
stagePosition为负数，因此存在环绕，并且您的计算会蓬勃发展！Because of integer promotion. When the right hand side is evaluated, all arguments are promoted to the highest type of the operands of the expression which, if
PHNumRowis unsigned, will be unsigned integer. The compiler does something similar to the following:Since,
stagePositionis negative, there is a wraparound and your computation goes boom!