Javascript: 位操作中的溢出和负数

发布于 2022-08-24 11:35:23 字数 2237 浏览 12 评论 0

本来遇到的问题是如何在Javascript中将十进制转变为十六进制(http://segmentfault.com/q/10100000000...)
第一次回答时我使用了这种方案:

var dec2hex = function(dec) {
  var buf = [],
  map = '0123456789ABCDEF';
  while (parseInt(dec / 16, 10) !== 0) {
    buf.unshift(map[dec % 16]);
    dec = parseInt(dec / 16, 10);
  }
  buf.unshift(map[dec % 16]);
  return buf.join('');
};

而在另一个我提出的问题中(http://segmentfault.com/q/10100000001...),我突然意识到还可以通过另一种方式进行转换:

var dec2hex2 = function(dec) {
  var hex = [],
  HEX = '0123456789ABCDEF';
  do {
    hex.unshift(HEX[dec & 0xF]);
  } while ( (dec = dec >> 4) !== 0 );
  return hex.join('');
};

知道最后google,我才发现原来事实比我想象的要简单得多。

var dec2hex3 = function(dec) {
  return dec.toString(16);
};

然而,问题来了。

第一次测试

输入:

var num = 542352345;
console.log(dec2hex(num));
console.log(dec2hex3(num));
console.log(dec2hex2(num));

输出:

2053A3D9
2053a3d9
2053A3D9

一切正常。

第二次测试

输入:

var num = 34542352345;
console.log(dec2hex(num));
console.log(dec2hex3(num));
console.log(dec2hex2(num));

输出:

80AE277D9
80ae277d9
AE277D9

Seemed weird?

第三次测试

输入:

var num = 5234542352345;
console.log(dec2hex(num));
console.log(dec2hex3(num));
console.log(dec2hex2(num));

输出:

4C2C30997D9
4c2c30997d9

这时候,dec2hex2函数似乎一直在运行,没有结果输出。

事先声明上述数字纯粹是我瞎打的。这时候我的第一个反应,是不是因为数字已经超过了32位(因为我的机器是32位的),然而我做了另外一个实验。
输入:

var num = parseInt(0xFFFFFFFF, 16);
console.log(dec2hex(num));
console.log(dec2hex3(num));
console.log(dec2hex2(num));

输出:

4294967295
4294967295

此时发生了和第三次测试同样的情况。

请问这是怎么回事呢?是不是发生了数字的溢出?那么如何避免和处理呢?

可能相关的资料(不确定)

https://dev.twitter.com/docs/twitter-...

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

池予 2022-08-31 11:35:23

关键在于dec2hex2里用到的位移运算符。在ECMA规范中,位运算符总是针对32bit的整数进行的操作。至于死循环,是因为位移的时候会保留符号位。那个数字的bit32正好是1,所以一直右移最后得到的总是0xFFFFFFFF。

In ECMAScript (Javascript) bitwise operations are always in 32-bit. Therefore 5799218898 is chopped into 32-bit which becomes 1504251602. This integer >> 13 gives 183624.

Ref: http://stackoverflow.com/questions/23...

p.s. 建议,除非必要,避免使用位移运算符。你能想到的简单优化,编译器也很容易做到。

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文