MySql FLOAT 数据类型以及超过 7 位数字的问题

发布于 2024-07-20 07:04:00 字数 976 浏览 5 评论 0原文

我们在 Ubuntu 9.04 上使用 MySql 5.0。 完整版本是:5.0.75-0ubuntu10

我创建了一个测试数据库。 和里面有一个测试表。 我从插入语句中看到以下输出:

mysql> CREATE TABLE test (floaty FLOAT(8,2)) engine=InnoDb;
Query OK, 0 rows affected (0.02 sec)

mysql> insert into test value(858147.11);
Query OK, 1 row affected (0.01 sec)

mysql> SELECT * FROM test;
+-----------+
| floaty    |
+-----------+
| 858147.12 | 
+-----------+
1 row in set (0.00 sec)

mySql 中设置的比例/精度似乎有问题...或者我错过了什么?

更新:

找到我们插入的数字之一的边界,代码如下:

mysql> CREATE TABLE test (floaty FLOAT(8,2)) engine=InnoDb;
Query OK, 0 rows affected (0.03 sec)

mysql> insert into test value(131071.01);
Query OK, 1 row affected (0.01 sec)

mysql> insert into test value(131072.01);
Query OK, 1 row affected (0.00 sec)

mysql> SELECT * FROM test;
+-----------+
| floaty    |
+-----------+
| 131071.01 | 
| 131072.02 | 
+-----------+
2 rows in set (0.00 sec)

mysql> 

We are using MySql 5.0 on Ubuntu 9.04. The full version is: 5.0.75-0ubuntu10

I created a test database. and a test table in it. I see the following output from an insert statement:

mysql> CREATE TABLE test (floaty FLOAT(8,2)) engine=InnoDb;
Query OK, 0 rows affected (0.02 sec)

mysql> insert into test value(858147.11);
Query OK, 1 row affected (0.01 sec)

mysql> SELECT * FROM test;
+-----------+
| floaty    |
+-----------+
| 858147.12 | 
+-----------+
1 row in set (0.00 sec)

There seems to be a problem with the scale/precision set up in mySql...or did I miss anything?

UPDATE:

Found a boundary for one of the numbers we were inserting, here is the code:

mysql> CREATE TABLE test (floaty FLOAT(8,2)) engine=InnoDb;
Query OK, 0 rows affected (0.03 sec)

mysql> insert into test value(131071.01);
Query OK, 1 row affected (0.01 sec)

mysql> insert into test value(131072.01);
Query OK, 1 row affected (0.00 sec)

mysql> SELECT * FROM test;
+-----------+
| floaty    |
+-----------+
| 131071.01 | 
| 131072.02 | 
+-----------+
2 rows in set (0.00 sec)

mysql> 

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(2

故事灯 2024-07-27 07:04:01

脸掌!!!

浮点数是存储为尾数和指数的 32 位数字。 我不是 100% 确定 MySql 将如何分割存储,但以 Java 为例,他们将使用 24 位作为有符号尾数,使用 8 位作为指数(科学记数法)。 这意味着 FLOAT 的最大值为 +8388608*10^127,最小值为 -8388608*10^127。 这意味着只有 7 位有效数字,而我的 FLOAT 定义使用了 8 位。

我们将把所有这些 8,2 从 FLOAT 切换为 DOUBLE。

Face Palm!!!!

Floats are 32 bit numbers stored as mantissa and exponents. I am not 100% sure how MySql will split the storage but taking Java as an example they would use 24 bits for a signed mantissa and 8 bits for an exponent (scientific notation). This means that the maximum value a FLOAT can have is +8388608*10^127 and the minimum is -8388608*10^127. This means only 7 significant digits, and my FLOAT definition used 8.

We are going to switch all of these 8,2 to DOUBLE from FLOAT.

何以笙箫默 2024-07-27 07:04:01

MySQL 文档提到“MySQL 在存储值时执行舍入”,我怀疑这是这里的问题。 我重复了您的问题,但将存储类型更改为 DOUBLE:

CREATE TABLE test (val, DOUBLE);

并且检索到的值与您提供的测试值匹配。

我的建议是,就其价值而言,使用 DOUBLE 或 DECIMAL。 我尝试了相同的原始测试:

CREATE TABLE test (val, DECIMAL(8,2));

它检索到了我给它的值:858147.11。

MySQL docs mention "MySQL performs rounding when storing values" and I suspect this is the issue here. I duplicated your issue but changed the storage type to be DOUBLE:

CREATE TABLE test (val, DOUBLE);

and the retrieved value matched the test value you provided.

My suggestion, for what it's worth, is use DOUBLE or maybe DECIMAL. I tried the same original test with:

CREATE TABLE test (val, DECIMAL(8,2));

and it retrieved the value I gave it: 858147.11.

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文