MySQL 8.4 Release Notes
B.3.4.8 浮点值问题
浮点数值有时会引起混淆,因为它们是近似值,不是精确存储的。浮点值在SQL语句中写入的形式可能与内部表示的值不同。尝试将浮点值视为精确值在比较中可能会导致问题。它们也受平台或实现依赖性影响。FLOAT
和DOUBLE
数据类型都受这些问题的影响。对于DECIMAL
列,MySQL将执行操作的精度为65个十进制位,这应该解决大多数不准确问题。
以下示例使用DOUBLE
来演示使用浮点操作进行计算时的浮点错误问题。
mysql> CREATE TABLE t1 (i INT, d1 DOUBLE, d2 DOUBLE);
mysql> INSERT INTO t1 VALUES (1, 101.40, 21.40), (1, -80.00, 0.00),
-> (2, 0.00, 0.00), (2, -13.20, 0.00), (2, 59.60, 46.40),
-> (2, 30.40, 30.40), (3, 37.00, 7.40), (3, -29.60, 0.00),
-> (4, 60.00, 15.40), (4, -10.60, 0.00), (4, -34.00, 0.00),
-> (5, 33.00, 0.00), (5, -25.80, 0.00), (5, 0.00, 7.20),
-> (6, 0.00, 0.00), (6, -51.40, 0.00);
mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b
-> FROM t1 GROUP BY i HAVING a <> b;
+------+-------+------+
| i | a | b |
+------+-------+------+
| 1 | 21.4 | 21.4 |
| 2 | 76.8 | 76.8 |
| 3 | 7.4 | 7.4 |
| 4 | 15.4 | 15.4 |
| 5 | 7.2 | 7.2 |
| 6 | -51.4 | 0 |
+------+-------+------+
结果正确。虽然前五个记录看起来好像不满足比较(a
和b
的值不appear不同),它们可能满足,因为差异在十个十进制位左右,取决于因素,如计算机架构或编译器版本或优化级别。例如,不同的CPU可能对浮点数值进行不同的计算。
如果d1
和d2
列被定义为DECIMAL
而不是DOUBLE
,SELECT语句的结果将只包含最后一个记录。
正确的浮点数值比较方法是首先确定允许的差异值,然后将比较写入到差异值中。例如,如果我们同意浮点数值在同一个精度(0.0001)内被视为相同,比较应该写入到差异值中:
mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b FROM t1
-> GROUP BY i HAVING ABS(a - b) > 0.0001;
+------+-------+------+
| i | a | b |
+------+-------+------+
| 6 | -51.4 | 0 |
+------+-------+------+
1 row in set (0.00 sec)
反之,为了获取相同的行,测试应该找到差异在差异值内:
mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b FROM t1
-> GROUP BY i HAVING ABS(a - b) <= 0.0001;
+------+------+------+
| i | a | b |
+------+------+------+
| 1 | 21.4 | 21.4 |
| 2 | 76.8 | 76.8 |
| 3 | 7.4 | 7.4 |
| 4 | 15.4 | 15.4 |
| 5 | 7.2 | 7.2 |
+------+------+------+
5 rows in set (0.03 sec)
浮点值受平台或实现依赖性影响。假设您执行以下语句:
CREATE TABLE t1(c1 FLOAT(53,0), c2 FLOAT(53,0));
INSERT INTO t1 VALUES('1e+52','-1e+52');
SELECT * FROM t1;
在某些平台上,SELECT语句返回inf
和-inf
。在其他平台上,它返回0
和-0
。
前述问题的结果是,如果您尝试使用mysqldump在源主机上dump表内容,然后将dump文件重新加载到副本主机上,浮点数列的表可能在两个主机上不同。