14.24.5 精确数学示例
本节提供了 MySQL 中精确数学查询结果的示例。这些示例演示了第14.24.3节,“表达式处理”和第14.24.4节,“舍入行为”中描述的原则。
示例 1。数字在可能时使用其exact值:
mysql> SELECT (.1 + .2) = .3;
+----------------+
| (.1 + .2) = .3 |
+----------------+
| 1 |
+----------------+
对于浮点值,结果是非精确的:
mysql> SELECT (.1E0 + .2E0) = .3E0;
+----------------------+
| (.1E0 + .2E0) = .3E0 |
+----------------------+
| 0 |
+----------------------+
另一种查看exact和approximate值处理的差异的方法是,添加一个小数到一个变量多次。考虑以下存储过程,它将.0001
添加到一个变量1000次。
CREATE PROCEDURE p ()
BEGIN
DECLARE i INT DEFAULT 0;
DECLARE d DECIMAL(10,4) DEFAULT 0;
DECLARE f FLOAT DEFAULT 0;
WHILE i < 10000 DO
SET d = d + .0001;
SET f = f + .0001E0;
SET i = i + 1;
END WHILE;
SELECT d, f;
END;
对于d
和f
,逻辑上应该是1,但是对于十进制计算,这个结果是true,而浮点计算引入了小错误:
+--------+------------------+
| d | f |
+--------+------------------+
| 1.0000 | 0.99999999999991 |
+--------+------------------+
示例 2。乘法使用标准SQL所需的scale。也就是说,对于两个数字X1
和X2
,它们的scale分别为S1
和S2
,结果的scale为
:S1
+ S2
mysql> SELECT .01 * .01;
+-----------+
| .01 * .01 |
+-----------+
| 0.0001 |
+-----------+
示例 3。精确值数字的舍入行为是well-defined:
舍入行为(例如,使用ROUND()
函数)独立于实现的C库的实现,这意味着结果在平台之间是一致的。
-
精确值列(
DECIMAL
和整数)和精确值数字使用“round half away from zero”规则。一个值的分数部分为0.5或更大时,会被舍入到最近的整数,如下所示:mysql> SELECT ROUND(2.5), ROUND(-2.5); +------------+-------------+ | ROUND(2.5) | ROUND(-2.5) | +------------+-------------+ | 3 | -3 | +------------+-------------+
-
浮点值使用C库,这些系统通常使用“round to nearest even”规则。一个值的分数部分恰好在两个整数之间时,会被舍入到最近的偶数整数:
mysql> SELECT ROUND(2.5E0), ROUND(-2.5E0); +--------------+---------------+ | ROUND(2.5E0) | ROUND(-2.5E0) | +--------------+---------------+ | 2 | -2 | +--------------+---------------+
示例 4。在严格模式下,插入一个超出范围的值将导致错误,而不是截断到合法值:
在MySQL不在严格模式下,截断到合法值:
mysql> SET sql_mode='';
Query OK, 0 rows affected (0.00 sec)
mysql> CREATE TABLE t (i TINYINT);
Query OK, 0 rows affected (0.01 sec)
mysql> INSERT INTO t SET i = 128;
Query OK, 1 row affected, 1 warning (0.00 sec)
mysql> SELECT i FROM t;
+------+
| i |
+------+
| 127 |
+------+
1 row in set (0.00 sec)
然而,在严格模式下,截断到合法值:
mysql> SET sql_mode='STRICT_ALL_TABLES';
Query OK, 0 rows affected (0.00 sec)
mysql> CREATE TABLE t (i TINYINT);
Query OK, 0 rows affected (0.00 sec)
mysql> INSERT INTO t SET i = 128;
ERROR 1264 (22003): Out of range value adjusted for column 'i' at row 1
mysql> SELECT i FROM t;
Empty set (0.00 sec)
示例 5:在严格模式下和ERROR_FOR_DIVISION_BY_ZERO
设置下,除以零将导致错误,而不是结果NULL
。
在非严格模式下,除以零的结果是NULL
:
mysql> SET sql_mode='';
Query OK, 0 rows affected (0.01 sec)
mysql> CREATE TABLE t (i TINYINT);
Query OK, 0 rows affected (0.00 sec)
mysql> INSERT INTO t SET i = 1 / 0;
Query OK, 1 row affected (0.00 sec)
mysql> SELECT i FROM t;
+------+
| i |
+------+
| NULL |
+------+
1 row in set (0.03 sec)
然而,在严格模式下,除以零是错误的:
mysql> SET sql_mode='STRICT_ALL_TABLES,ERROR_FOR_DIVISION_BY_ZERO';
Query OK, 0 rows affected (0.00 sec)
mysql> CREATE TABLE t (i TINYINT);
Query OK, 0 rows affected (0.00 sec)
mysql> INSERT INTO t SET i = 1 / 0;
ERROR 1365 (22012): Division by 0
mysql> SELECT i FROM t;
Empty set (0.01 sec)
示例 6。精确值字面量被评估为精确值。
近似值字面量使用浮点数进行评估,但精确值字面量被处理为DECIMAL
:
mysql> CREATE TABLE t SELECT 2.5 AS a, 25E-1 AS b;
Query OK, 1 row affected (0.01 sec)
Records: 1 Duplicates: 0 Warnings: 0
mysql> DESCRIBE t;
+-------+-----------------------+------+-----+---------+-------+
| Field | Type | Null | Key | Default | Extra |
+-------+-----------------------+------+-----+---------+-------+
| a | decimal(2,1) unsigned | NO | | 0.0 | |
| b | double | NO | | 0 | |
+-------+-----------------------+------+-----+---------+-------+
2 rows in set (0.01 sec)
示例7。如果聚合函数的参数是一个精确数字类型,结果也是一个精确数字类型,scale至少与参数相同。
考虑这些语句:
mysql> CREATE TABLE t (i INT, d DECIMAL, f FLOAT);
mysql> INSERT INTO t VALUES(1,1,1);
mysql> CREATE TABLE y SELECT AVG(i), AVG(d), AVG(f) FROM t;
结果只对浮点数参数是double。对于精确类型参数,结果也是精确类型:
mysql> DESCRIBE y;
+--------+---------------+------+-----+---------+-------+
| Field | Type | Null | Key | Default | Extra |
+--------+---------------+------+-----+---------+-------+
| AVG(i) | decimal(14,4) | YES | | NULL | |
| AVG(d) | decimal(14,4) | YES | | NULL | |
| AVG(f) | double | YES | | NULL | |
+--------+---------------+------+-----+---------+-------+
结果只对浮点数参数是double。对于精确类型参数,结果也是精确类型。