首页  

mysql中的浮点数     所属分类 mysql 浏览量 1074
三种浮点类型  FLOAT DOUBLE   DECIMAL 
FLOAT  单精度浮点数 
DOUBLE 双精度浮点数
decimal  定点数

浮点数相对于定点数的优点是在长度一定的情况下,浮点数能够表示更大的数据范围
它的缺点是会引起精度问题



CREATE TABLE test01 (c1 float ,c2 double ,c3 decimal(10,2));

insert into test01 values(131072.32,131072.32,131072.32);

insert into test01 values(123456789,123456789,123456789.333);
ERROR 1264 (22003): Out of range value for column 'c3' at row 1

insert into test01 values(123456789,123456789,12345678.333);
insert into test01 values(123456789,123456789,12345678.337);

insert into test01 values(1.0123456789,1.0123456789,1.0123456789);


select * from test01;
+-----------+--------------+-------------+
| c1        | c2           | c3          |
+-----------+--------------+-------------+
|    131072 |    131072.32 |   131072.32 |
| 123457000 |    123456789 | 12345678.33 |
| 123457000 |    123456789 | 12345678.34 |
|   1.01235 | 1.0123456789 |        1.01 |
+-----------+--------------+-------------+


浮点数使用注意点

1 浮点数存在误差问题
2 对货币等精度敏感的数据,使用定点数 
3 注意浮点数误差问题,避免做浮点数比较

上一篇     下一篇
elasticsearch 优化点

Java异常知识点

mysql explain 简介

MongoDB面试题

MongoDB优缺点

延迟任务处理总结